微软正式推出两款自研ai芯片,加速ai计算任务

2023-11-16 12:58    来源:浅语科技

11月16日消息,在今天于西雅图举行的Ignite开发者大会上,微软正式推出了两款自研AI芯片,用于强化AuzreAI和MicrosoftCopilot服务,分别为AzureMaia100及AzureCobalt100。

该系列芯片旨在加速AI计算任务,并为其每月30美元(IT之家备注:当前约218元人民币)的“Copilot”服务和企业软件用户提供算力基础,同时也为希望制作自定义AI服务的开发人员提供服务。

AzureMaia100:这是一款专为Azure云服务和AI工作负载设计的ASIC芯片,适用于x86主机。

该芯片将安装在定制的液冷机架中,同时最多可容纳4枚芯片。该芯片将支持标准INT8和INT4数据格式并利用嵌入式以太网接口。

这款芯片基于台积电5nm节点制造,可支持各种AI场景,包括自然语言处理、计算机视觉、推荐系统和生成型AI。

它可以与Azure软件栈无缝集成,包括AzureMachineLearning、AzureCognitiveServices和AzureSynapseAnalytics等,从而提供高性能、高效率和高灵活性。

Maia芯片旨在运行大型语言模型,这是一种支持微软AzureOpenAI服务的AI软件,也是微软与ChatGPT开发者OpenAI合作的产品。

微软表示,他们不打算出售这些芯片,而是将它们用于为其自己的订阅软件产品赋能,并作为其Azure云计算服务的一部分。

微软和其他科技巨头如Alphabet正在努力应对提供AI服务的高成本,这可能比传统服务如搜索引擎的成本高出10倍。

微软高管表示,他们计划通过一套通用的基础AI模型来处理公司几乎所有的AI产品工作,以解决这些问题。据称,Maia芯片正是为此优化的。

“我们认为这为我们提供了一种能力,可以为客户提供更快、更低成本和更高质量的解决方案,”微软云和AI集团执行副总裁ScottGuthrie说道。

微软还表示,明年它将为Azure客户提供在Nvidia和AMD的最新旗舰芯片上运行的云服务。微软表示,它正在AMD的芯片上测试OpenAI最先进的模型GPT4。

“这并不是取代Nvidia的东西,”分析师公司CreativeStrategies的首席执行官BenBajarin说。

他表示,Maia芯片将使微软能够在个人电脑和手机功能强大到足以处理它们之前,在云端销售AI服务。

“微软在这里有一个非常不同的核心技术机会,因为他们的服务每个用户都能赚很多钱,”Bajarin说。

AzureCobalt100:这是一款Arm芯片,专门用于在微软Cloud上运行通用计算工作负载。这款芯片可以提供高密度、高可靠性和高安全性的计算服务,适用于Web应用、数据库、容器和微服务等。

它还可以与Azure的生态系统兼容,包括AzureKubernetesService、AzureFunctions和AzureAppService等。这款芯片的优点在于可以提供低成本、低功耗和低碳排放的计算平台,支持可持续发展的目标。

微软表示,它总共拥有128个NeoverseN2内核,支持12通道DDR5内存,与即将推出的ARM服务器芯片相比,每个内核的性能提高了40%。

微软还透露,他们已经在尝试用Cobalt为Teams赋能。

微软Guthrie表示,公司还希望直接向客户出售Cobalt的使用权,以与亚马逊网络服务(AWS)提供的“Graviton”系列芯片竞争。

“我们正在设计我们的Cobalt解决方案,以确保我们在性能以及价格-性能方面都具有竞争力(与亚马逊的芯片相比),”Guthrie说。

AWS将在本月晚些时候举行自己的开发者大会,一位发言人表示,其Graviton芯片目前已有5万名客户。

“AWS将继续创新,为任何需要的客户工作负载提供下一代AWS设计的芯片,以提供更好的性价比,”微软宣布其芯片后,该发言人表示。



孵化AI创新思维 首届人工智能应用大会在京举办
科技

孵化AI创新思维 首届人工智能应用大会在京举办

本文转自:人民网 人民网北京1月22日电 (焦磊)随着技术不断取得突破,人工智能的应用和发展备受业界关注。日前,首届人工智能应用大会暨中国技术经济学会人工智能应用专业委员会揭牌典礼在北京举行。多位相关领域的专家、学者、企业家以及技术开发者围绕AI技术的未来发展及深度应用进行分享和讨论。 会上,参会者 [详情]

蚂蚁集团发布2023年消保年报:普惠金融教育行动已覆盖1亿人次
科技

蚂蚁集团发布2023年消保年报:普惠金融教育行动已覆盖1亿人次

1月22日,蚂蚁集团官网发布了《2023年消费者权益保护年报》(下简称“年报”)。《年报》显示,2023年蚂蚁集团继续通过“蚂蚁315”消费者权益保护专项行动,持续优化、升级相关产品和服务体验。 2023年,蚂蚁集团通过恶意营销专项治理行动优化消费环境,保护5300万用户免受恶意营销行为干扰。同时, [详情]

大族半导体第1000台LED芯片分选机正式交付
科技

大族半导体第1000台LED芯片分选机正式交付

2024年1月16日,大族激光旗下全资子公司大族半导体在南沙平谦国际工业园举行了第1000台分选机的“千台交付仪式”。作为MiniLED分选机项目历史上的重要里程碑,项目团队成员共同见证了这意义深远的重要时刻。 大族半导体分选机自2022年5月交付第一台量产机到2024年1月实现了产销“千台”的突破 [详情]

车旺科技全链路数字化增值服务 获评中物联货运物流行业创新实践优秀案例
科技

车旺科技全链路数字化增值服务 获评中物联货运物流行业创新实践优秀案例

为寻找优秀企业、推广先进做法、塑造创新品牌、引领行业发展方向,中物联公路货运分会面向行业进行了“2023年度公路货运行业创新实践案例”评选。车旺科技凭借为公路货运行业提供全链路数字化增值服务的科技创新能力,获评创新实践优秀案例。 这一荣誉不仅肯定了车旺科技在提高物流企业运营效率和降低成本方面的努力, [详情]