2023服贸会|专访百融云创陈昀彰:“模型-行业理解-应用”决定大模型企业的成败

2023-09-06 10:42    来源:北京商报

2023年服贸会期间,大模型在各领域的应用成为热门话题。9月5日,北京商报记者就大模型在金融领域应用的相关内容,对百融云创科技股份公司(以下简称“百融云创”)AI创新负责人陈昀彰进行了专访。

陈昀彰直言,当前大模型应用还存在诸多难点,提升算力、优化算法等技术手段之外,从业机构还需要充分的行业Know-how,注重对大模型落地场景的深入挖掘,“模型-行业理解-应用”将决定大模型企业的成败,未来垂直类场景应用和模型能力的结合将更为紧密。

深入挖掘落地场景

2022年末,ChatGPT横空出世,在金融圈、科技圈掀起狂潮。AIGC、⽣成式⼈⼯智能、语⾔模型、⼤模型等概念层出不穷。进入2023年后,业内多家金融科技公司也加入到大模型领域的比拼中。

根据北京商报记者过往采访的情况,当前金融科技领域大模型的应用大多还停留在智能交互层面,距离其大范围落地还有一定距离。其中,生成式AI更是存在“模型崩溃”“机器幻觉”等弊端。

针对这一现状,陈昀彰告诉北京商报记者,从技术上来说,大模型的应用难点有很多。例如模型训练的数据存在一定偏差、模型具有“黑箱”特性以及在涌现行为出现的同时还存在“预测困境”等。

“生成式AI模型通过机器学习会生成一些事实性错误。”陈昀彰表示。例如,对于大模型的训练数据中未曾覆盖到的信息,大模型会按照上下文的概率进行事实编造,从而导致发生大模型“幻觉”的问题。

如何应对上述技术难点,陈昀彰也给出了自己的答案。陈昀彰指出,提升算力、优化算法之外,还需要充分的行业Know-how、行业知识库以及对于落地场景的深入挖掘。简而言之,“模型-行业理解-应用”将决定大模型企业的成败。

在陈昀彰看来,当前在大模型真正落地的环节,更多用户还是将其当作“玩具”,还不足以作为“工具”使用。但实际上,⼤模型建设的业务拆解中最重要的是确定应⽤场景,这决定了⽤户所需要的功能、⽤户能以何种表达⽅式与这些功能产⽣链接。强化“工具”能力让大模型自主完成指令,在场景应用中能够解决非常大的问题。

陈昀彰以百融云创企业内部的应用场景为例进行了进一步解释,公司员工提出请假需求是常见的场景之一,通过百融对话大模型,能够直接找到发起审批流程,极大地压缩了中间沟通过程带来的信息损耗。

据了解,BR-LLMs百融⼤模型采⽤MoE模型路由⽅案,将不同场景的请求分发给不同的模型,这其中包括对话⼤模型、编程⼤模型、扩散模型等⽣成式模型和判别式模型,在保证应⽤效果的同时可以降低训练成本,全面提升业务转化效果。

大模型将在更多垂直领域落地

在采访过程中,陈昀彰多次强调,企业建立大模型要结合具体的应用场景才能发挥最大效率。但需要注意的是,大模型在向外输出的过程中,不仅仅面临准确性、稳定性方面的考验,在隐私数据保护上也是市场关注的焦点。

对于百融大模型如何解决数据隐私这一问题,陈昀彰指出,百融云创的定位并不是大模型的厂商,而是将大模型的能力包装成业务场景应用。在其他业务与银行等金融机构的合作中,通过有效授权让百融大模型的运转更顺畅、成本更低。

“其次大模型的训练是不断沉淀的过程,面对金融行业的使用场景中,我们考虑将大模型工具和行业大模型给到银行,银行根据其具体业务在开发工具下进行微调,这样能保证数据在银行系统内部流转。”陈昀彰补充道。

事实上,大模型并非是行业内的全新概念,从最初的智能客服到如今的生成式AI、决策式AI,科技助力下大模型能力实现跨越式提升,也满足了更多金融场景的使用需求,进一步加快了金融行业的数字化进程。

对于下一阶段大模型的发展,陈昀彰认为,生成式AI和决策式AI的有机融合发展料将是一大方向。比如针对生成式AI在权衡一些对冲性的信息时,不能做出正确取舍的弊端,可以在模型建设中加入决策式AI的决策树等算法,通过引入显性的逻辑规则来判断相互矛盾的信息,进而给出最优解。

陈昀彰指出,目前整个AI产业呈现出“百模大战”的格局,随着技术的演进发展,行业也将发展出几大不同的路径,即以科技巨头为主的通用型大模型、新兴创业公司主导的各类“小模型”,以及像百融云创这样的AI科技公司研发的行业大模型。后续,外界对于大模型的关注将转向其在垂直领域的落地,行业大模型势必将迸发更多势能,垂类应用和模型能力的结合也会更为紧密。

此外,陈昀彰透露,目前公司正与⾏业中的各个合作伙伴紧密沟通拆解场景。预计百融大模型会在⾦融⾏业的营销、客服、合规审查、报告⽣成、信息总结等多个场景中进⾏应⽤。

北京商报记者 廖蒙



2024年辽宁在建项目超1.5万个 储备项目超1.8万个
财经

2024年辽宁在建项目超1.5万个 储备项目超1.8万个

本文转自:沈阳晚报 2024年,全省储备项目超过1.8万个,在建项目超1.5万个。近日,省政府新闻办召开2023年全省经济运行情况系列新闻发布会(第二场),省发展改革委相关负责人介绍了2023年辽宁省全力以赴扩大有效投资的相关情况以及2024年全省“三库”项目情况。 2023年,全省固定资产投资比上 [详情]

2023年海关税收入库2.21万亿元
财经

2023年海关税收入库2.21万亿元

本文转自:人民日报海外版 《 人民日报海外版 》( 2024年01月24日 第 04 版) 本报北京1月23日电 (记者王俊岭)记者从23日召开的全国海关工作会议获悉:2023年,全国海关坚持依法治税、综合治税,加强科学征管,全年海关税收入库2.21万亿元。  [详情]

找准着力点,奋力挑大梁
财经

找准着力点,奋力挑大梁

本文转自:广州日报 两会看台 2023年广东地区生产总值达到13.57万亿元、增长4.8%,是全国首个突破13万亿元的省份,总量连续35年居全国首位,广州经济总量突破3万亿元。(1月23日新花城客户端)  [详情]

生猪市场供应持续宽松 第二季度形势有望好转
财经

生猪市场供应持续宽松 第二季度形势有望好转

本文转自:广州日报 广州日报讯 (全媒体记者 许晓芳)1月23日,国新办举行2023年农业农村经济运行情况新闻发布会。会上,农业农村部市场与信息化司司长雷刘功表示,去年12月份规模猪场的中大猪存栏同比增长3.7%,将在未来1~2个月出栏,预示着生猪市场供应仍较为宽松,春节后生猪养殖很可能延续亏损。同 [详情]

中国信保年承保金额超9000亿美元
财经

中国信保年承保金额超9000亿美元

本文转自:人民日报海外版 《 人民日报海外版 》( 2024年01月24日 第 04 版) 本报北京1月23日电 (记者王俊岭)记者23日从中国出口信用保险公司(以下简称“中国信保”)获悉,2023年该公司承保金额超9286亿美元,首次突破9000亿美元大关。同时,支付赔款超23亿美元,服务支持客 [详情]