微软正式推出两款自研ai芯片,加速ai计算任务

2023-11-16 12:58    来源:浅语科技

11月16日消息,在今天于西雅图举行的Ignite开发者大会上,微软正式推出了两款自研AI芯片,用于强化AuzreAI和MicrosoftCopilot服务,分别为AzureMaia100及AzureCobalt100。

该系列芯片旨在加速AI计算任务,并为其每月30美元(IT之家备注:当前约218元人民币)的“Copilot”服务和企业软件用户提供算力基础,同时也为希望制作自定义AI服务的开发人员提供服务。

AzureMaia100:这是一款专为Azure云服务和AI工作负载设计的ASIC芯片,适用于x86主机。

该芯片将安装在定制的液冷机架中,同时最多可容纳4枚芯片。该芯片将支持标准INT8和INT4数据格式并利用嵌入式以太网接口。

这款芯片基于台积电5nm节点制造,可支持各种AI场景,包括自然语言处理、计算机视觉、推荐系统和生成型AI。

它可以与Azure软件栈无缝集成,包括AzureMachineLearning、AzureCognitiveServices和AzureSynapseAnalytics等,从而提供高性能、高效率和高灵活性。

Maia芯片旨在运行大型语言模型,这是一种支持微软AzureOpenAI服务的AI软件,也是微软与ChatGPT开发者OpenAI合作的产品。

微软表示,他们不打算出售这些芯片,而是将它们用于为其自己的订阅软件产品赋能,并作为其Azure云计算服务的一部分。

微软和其他科技巨头如Alphabet正在努力应对提供AI服务的高成本,这可能比传统服务如搜索引擎的成本高出10倍。

微软高管表示,他们计划通过一套通用的基础AI模型来处理公司几乎所有的AI产品工作,以解决这些问题。据称,Maia芯片正是为此优化的。

“我们认为这为我们提供了一种能力,可以为客户提供更快、更低成本和更高质量的解决方案,”微软云和AI集团执行副总裁ScottGuthrie说道。

微软还表示,明年它将为Azure客户提供在Nvidia和AMD的最新旗舰芯片上运行的云服务。微软表示,它正在AMD的芯片上测试OpenAI最先进的模型GPT4。

“这并不是取代Nvidia的东西,”分析师公司CreativeStrategies的首席执行官BenBajarin说。

他表示,Maia芯片将使微软能够在个人电脑和手机功能强大到足以处理它们之前,在云端销售AI服务。

“微软在这里有一个非常不同的核心技术机会,因为他们的服务每个用户都能赚很多钱,”Bajarin说。

AzureCobalt100:这是一款Arm芯片,专门用于在微软Cloud上运行通用计算工作负载。这款芯片可以提供高密度、高可靠性和高安全性的计算服务,适用于Web应用、数据库、容器和微服务等。

它还可以与Azure的生态系统兼容,包括AzureKubernetesService、AzureFunctions和AzureAppService等。这款芯片的优点在于可以提供低成本、低功耗和低碳排放的计算平台,支持可持续发展的目标。

微软表示,它总共拥有128个NeoverseN2内核,支持12通道DDR5内存,与即将推出的ARM服务器芯片相比,每个内核的性能提高了40%。

微软还透露,他们已经在尝试用Cobalt为Teams赋能。

微软Guthrie表示,公司还希望直接向客户出售Cobalt的使用权,以与亚马逊网络服务(AWS)提供的“Graviton”系列芯片竞争。

“我们正在设计我们的Cobalt解决方案,以确保我们在性能以及价格-性能方面都具有竞争力(与亚马逊的芯片相比),”Guthrie说。

AWS将在本月晚些时候举行自己的开发者大会,一位发言人表示,其Graviton芯片目前已有5万名客户。

“AWS将继续创新,为任何需要的客户工作负载提供下一代AWS设计的芯片,以提供更好的性价比,”微软宣布其芯片后,该发言人表示。



量子科技产业研究院在肥成立
科技

量子科技产业研究院在肥成立

本文转自:合肥日报 本报讯 1月22日上午,量子科技产业研究院成立大会在肥召开,并签署联合建设量子科技产业研究院协议书。省委常委、副省长张红文出席。中国科学院院士潘建伟,市长罗云峰出席并致辞。省科技厅厅长罗平、副厅长姚群,市领导袁飞出席。 潘建伟在致辞中说,成立量子科技产业研究院,是省市顶格推进量子 [详情]

让年会回归最初的“人情味”
科技

让年会回归最初的“人情味”

本文转自:陕西日报 周恒宇 岁末年初,又到了许多企业集中举办年会的时候。近期上映的电影《年会不能停!》以筹办年会为主线,讲述了钳工胡建林在裁员之际被阴差阳错调入集团总部,反而一路升职加薪的故事。电影笑点密集、槽点满满,对职场生活的高度写实,戳中打工人内心的痛点,引发了强烈的集体共鸣,有关年会的话题再 [详情]

新型航天供电插座实现在轨更换熔断器
科技

新型航天供电插座实现在轨更换熔断器

本文转自:科技日报 科技日报讯 (通讯员宋伟 张倩倩 陈袁 记者何亮 付毅飞)1月17日22时27分,天舟七号货运飞船载满货物奔赴中国空间站,开启新年度空间站任务新征程。在此次任务中,天舟七号货运飞船还搭载了一位“新乘客”——可在轨独立更换熔断器的新型供电插座。 该供电插座由中国航天科技集团五院52 [详情]