微软迈亚200芯片迎来大客户 宣称推理成本低于英伟达

纵横百科 网络资讯 1

5月22日消息,据The Information报道,Anthropic正与微软就租用其自研Maia AI芯片驱动的服务器展开谈判。

微软1月份正式推出自研AI芯片——迈亚(Maia)200,并称该芯片在部分推理任务上的成本低于英伟达产品。

作为2023年推出的Maia 100的升级款,微软此前表示,Maia 200在技术上实现了全面升级,能够以更快的速度和更高的能效运行高性能AI模型。

该芯片集成超过1000亿个晶体管,在4比特精度下的算力可达10 petaflops以上,8比特精度下约为5 petaflops,相较上一代产品实现大幅跃升。

AI推理是指运行已训练完成模型的计算过程,与模型训练所需的计算有所不同。随着人工智能企业的发展走向成熟,推理成本在企业整体运营成本中的占比持续攀升,行业正重新聚焦于推理流程的优化。

微软希望Maia 200成为推动这一优化的关键产品,助力AI企业实现更稳定的业务运行与更低的能耗。

与此同时,人工智能公司Anthropic正寻求租用Maia芯片服务器,旨在获取更多算力以应对旗下Claude模型日益增长的需求。

若谈判成功,微软将赢得一位极具分量的外部客户,为其长期以来在自研芯片领域追赶谷歌和亚马逊的努力注入一剂强心针。