算力紧缺!AI大模型如何应对挑战?

2023-08-05 12:59    来源:人民资讯

本文转自:人民网

人民网北京8月5日电 (记者赵竹青)近日,中国计算机学会(CCF)人工智能会议在新疆乌鲁木齐举行。在分论坛“见疆见昆仑·AI大模型算力前沿”上,专家学者们一致表示,大模型时代,智能算力成为“稀缺资产”,如何善用算力资源,发挥其最大效益,已经成为每个参与者必须面对的挑战。

CCF人工智能与模式识别专委会主任于剑指出,ChatGPT出现后,人们逐渐意识到,人工智能已发展成为一种新型“重工业”,其重资产特性体现在算力、数据等方面,“这种变化对人工智能领域的发展将产生深远影响。”

“与传统云计算不同,这是一个典型的超级计算场景。”CCF常务理事陈健认为,当前大模型的蓬勃发展实际上是大数据、人工智能和超级计算三种技术相互合作、共同演变的结果。

北京超级云计算中心首席技术官甄亚楠介绍,由于超级计算和大模型训练在存储技术、系统环境等方面有许多相似之处,北京超级云计算中心正在实践利用超级计算技术来处理大模型训练。他们计划在2023年底前陆续新增上线大量GPU卡,并开始引入国产芯片。

“今年上半年,英伟达相关服务器的价格基本上翻了一番。”陈健表示,大模型热潮带来旺盛的算力需求,同时硬件供应困难加剧,双重因素导致了当前的“算力荒”。

算力如此紧缺,如何才能使资源利用最大化?多位来自高校的专家学者直言,这也是当前摆在高校面前的一道难题。

“对高校而言,算力存在非常大的约束。”在西安电子科技大学教授苗启广看来,面对算力不足的现状,如何充分利用好外界提供的算力,是高校需要思考的问题。烟台大学计算机与控制学院教授王莹洁也表示,对高校来说,使用算力是需要“砸钱”的一件事。因此,高校如何更好地利用算力平台为科研服务,是当前亟待解决的问题。

高校自建算力也存在利用效率不高的问题。新疆大学信息科学与工程学院软件学院院长钱育蓉坦言,高校建设的部分算力设施因团队和项目需求的不均衡性,以及不同购买时期的型号差异,难以充分利用。当前,学院正在尝试建立统一管理的算力中心,不仅供本学院使用,也能服务其他学院和社会需求,寻求投入产出比的优化。“未来,自建算力使用费用将成为学院和社会化服务的收入来源。”

北京邮电大学计算机学院教授石川补充说,当前,科研算力仍主要采用国外的技术架构,如果迁移到国内的算力设施上,对很多场景的支持则存在不足,“很多时候,我们需要自己编写一些基础的算法库。”他表示,国产算力平台除满足用户硬件层面的需求之外,软件层面的支撑也是迫切需要解决的瓶颈问题。



刑事诉讼中的数字化革新
科技

刑事诉讼中的数字化革新

本文转自:法治日报□ 王税 在数字化时代,刑事诉讼正经历一场深刻的数字化革新。这场变革不仅是技术设备的更新换代,更是法律体系与科技深度融合的体现。笔者认为,案件管理系统的优化、数字证据的广泛应用、在线法庭与远程听证的实践以及人工智能和预测性分析的引入,构成了这场革新的核心内容。随着技术的持续发展,需 [详情]

“祥龙贺岁”主题巴士 亮相滨州街头
科技

“祥龙贺岁”主题巴士 亮相滨州街头

本文转自:鲁中晨报“祥龙贺岁”主题巴士 亮相滨州街头 滨州1月22日讯继推出婚庆主题巴士之后,滨州公用事业集团权属公交公司在新春来临之际,又推出“祥龙贺岁”主题巴士,提升城市春节氛围。  [详情]

辣椒市场 交易火爆
科技

辣椒市场 交易火爆

本文转自:商丘日报 1月22日,柘城辣椒大市场内客商云集,交易火爆,满载辣椒的车辆进进出出,呈现出一派繁忙景象。据悉,该县有20万人聚集在辣椒产业链上,辣椒种植面积常年稳定在40万亩,年产干椒12万吨,每年有70万吨辣椒在此集散销售,交易额超百亿元,形成“全国辣椒进柘城、 [详情]

我国科学家成功实现无串扰的量子网络节点
科技

我国科学家成功实现无串扰的量子网络节点

本文转自:黄石日报 新华社北京1月23日电 量子网络是基于量子力学规律对量子信息进行存储、处理和传输的物理装置,是实现量子通讯和大规模量子计算的基础。清华大学研究团队利用同种离子的双类型量子比特编码,在国际上首次实现无串扰的量子网络节点,对未来实现量子通讯和大规模量子计算具有重要意义。该研究成果近日 [详情]

飞腾腾珑E2000助力天津地铁AFC系统投用
科技

飞腾腾珑E2000助力天津地铁AFC系统投用

本文转自:科技日报 科技日报天津1月23日电 (记者陈曦)记者23日获悉,随着天津地铁11号线一期东段开通运营,全线基于飞腾腾珑E2000 CPU的AFC自动售检票系统也投入使用。该线路也是国内首条全线路AFC系统采用飞腾腾珑E2000 CPU的轨道交通项目。 据介绍,本次开通的天津地铁11号线,是 [详情]

我科研团队研发出新型绿色速溶融雪剂
科技

我科研团队研发出新型绿色速溶融雪剂

本文转自:科技日报 ◎本报记者 俞慧友 1月23日,长沙理工大学教授贾传坤团队透露,团队近期研发出了一款可快速融雪且无污染的新型融雪剂,有望进一步加速“破冰”,降低冰雪气候下的交通风险。  [详情]