MOSS会越来越“聪明”(对话人工智能训练师)

2023-07-31 05:57    来源:人民资讯

本文转自:人民日报海外版

对话人物:复旦大学自然语言处理实验室MOSS项目人工智能训练师 贺正夫

《 人民日报海外版 》( 2023年07月31日 第 05 版)

问:MOSS是什么,主要有什么作用?

答:MOSS是一个对话式语言模型,它可以为人们的生活提供各种直接或间接的帮助。它可以进行生活常识问答,帮助查询天气、规划行程等;可以辅助高效办公,例如自动处理表格,生成大纲、草稿、翻译等,还掌握金融、医疗、教育等领域专业知识。许多行业正在引入以MOSS为代表的对话式语言模型,比如汽车语音助手、客服等,这些都将产生降本增效的效果。

问:您对MOSS的具体训练过程是怎样的?

答:大模型中参数的本质是海量的矩阵,这些矩阵对输入的文本进行简单、繁重、重复的数字运算,最终得到需要生成的内容。我们可以通过对网络上的语料进行收集、“清洗”,并让大模型从这些语料中学习知识。具体而言,学习过程就是不断“阅读”文本,并调整大模型内部参数,使其对语言的理解不断加深,最终获得某种“智能”,这个过程称为训练。

在搭建MOSS的过程中,我们通过三阶段“阅读”赋予MOSS强大的能力。一是基础知识获取阶段。MOSS通过广泛“阅读”网络上几乎所有的文本,由于巨大的参数量,其足以涵盖海量知识。二是对话能力获取阶段。MOSS通过“阅读”对话数据,学习利用第一阶段获取的知识,以对话的方式回答人类的问题。三是对齐阶段。由于有些回复可能会有误导性,MOSS会根据人类的反馈来抑制生成不符合人类法律和道德伦理的内容,使回答更客观、更理性。

问:MOSS和ChatGPT相比有哪些差异?

答:ChatGPT的训练数据涵盖十分广泛,用户体验良好。MOSS作为学术界的尝试,我们希望通过打造开源对话式的语言模型,向学术界分享更前瞻的理论和工程经验。

问:MOSS是来源于电影《流浪地球2》吗?它的未来目标是什么?

答:MOSS的名字与《流浪地球2》这部电影有关,电影中的人工智能机器人MOSS展现出极强的智能和理性,成为人类的得力助手。我们从对话式语言模型发展中看到了人工智能的巨大潜力,因此起名MOSS,这个名字寄托这我们对人工智能技术未来发展的期待。

未来的MOSS会越来越“聪明”。我们将充分利用火山引擎等平台提供的云端算力和资源,与更多同行开展模型迭代和技术交流,不断探索对话式大模型和大型语言模型的技术前沿,让人工智能技术更好地造福人类社会。

(彭训文、张嘉幸采访整理)



“中国视谷”“创客中国”双品牌赋能 杭州产业培育模式入选 “小微你好” 优秀服务案例
科技

“中国视谷”“创客中国”双品牌赋能 杭州产业培育模式入选 “小微你好” 优秀服务案例

近日,省促进中小企业和民营企业发展工作领导小组办公室正式公布了2023年“小微你好” 暖企助企惠企专项行动优秀服务案例名单,其中,《以赛进击“专精特新” 谱好视觉智能产业发展“三篇章”》成功入选。 去年以来,杭州积极响应“小微你好”暖企助企惠企专项行动,帮助企业克难攻坚、成长发展,提高服务精准度,提 [详情]

宗馥莉:完成1到10到100的突破
科技

宗馥莉:完成1到10到100的突破

在“家门口”的亚运会上展示中国品牌、杭州企业风采;为饮料产业智造升级打造“未来工厂”样本;在消费市场深刻变革背景下,发力开辟新生态新通路……作为发展37年成长起来的中国食品饮料龙头企业,娃哈哈交出的2023年答卷传递出坚守与信心。新的一年,如何破局出新、面向未来再攀高峰? 近日,杭州娃哈哈集团副董事 [详情]

持续推动科技与文化融合创新 万事利丝绸拿下国家级牌子
科技

持续推动科技与文化融合创新 万事利丝绸拿下国家级牌子

近日,杭州企业万事利丝绸被工业和信息化部、中央宣传部、中央网信办、文化和旅游部、国家广播电视总局等五部门联合认定为“国家文化和科技融合示范基地”。 作为以丝绸文化创意和高新丝绸科技为核心竞争力的企业,万事利丝绸通过将科技与文化融合,为传统丝绸产业注入新的活力。尤其是人工智能、大数据等数字技术的赋能, [详情]

“最低价协议”并非双赢
科技

“最低价协议”并非双赢

本文转自:经济日报 王明昊 破除“最低价协议”,打造一个健康、公平、和谐的线上消费环境,对更好发挥直播电商在丰富消费场景、激发消费活力等方面的作用至关重要。  [详情]

遵义金紫阳食品公司负责人吴凝: 专注做好一碗面一碗粉
科技

遵义金紫阳食品公司负责人吴凝: 专注做好一碗面一碗粉

“我们专注‘做好一碗面、做好一碗粉’,销售额达到3.2亿元。” 盘点2023年业绩,吴凝神动色飞:“每一份努力都不会被辜负,每一分坚持都将会有收获。” 吴凝是遵义金紫阳食品有限公司董事长。这是一家民营股份制企业,与贵州大学食品工业系合作,成功研发出贵州荞麦面、苦荞面、抹茶面、红稗面、刺梨面等速餐食品 [详情]