微软公布Maia 300，计划让自研芯片承担主要推理任务

推理芯片 / 公司战略 · 9/10 · 建议深挖

微软宣布，从2027年起将Maia扩展到多吉瓦级部署，作为微软产品和服务的主要推理系统。Maia 200已经运行Copilot等生产负载，第三代Maia 300则面向长上下文、连续生成回复和多步Agent任务。这比公布一颗芯片更有分量：微软在为持续增长的自家服务确定长期算力路线。

架构说明把重点放在数据搬运。每颗加速器配288GB高带宽内存，带宽为18TB/s；软件可以把数据放到靠近使用它的计算单元的存储区域。通信设计还把同机架和跨机架纳入同一套访问方式，减少主机和独立网卡中转。长回复生成时，模型需要反复读取权重和上下文缓存，能少搬一些数据，就能少花一些时间和电力在等待上。

微软预计Maia 300相对主流GPU系统每兆瓦可多产出40%的token（模型生成的文本片段），但未列出完整对照配置。相对Maia 200的“机架吞吐最高7倍”还包含每机架加速器数量翻倍，不能读成单颗芯片快7倍。真正该追踪的是2027年的部署结果：在相同模型、延迟要求和实际电力预算下，自研系统能多完成多少任务。微软有自己的大规模推理需求，定制芯片才有机会持续摊薄开发成本。