Juju Radar
返回 2026-09-16 完整精选

同样的电力预算,从 16 台服务器跑到 19 台

2026-09-16 收录 · 算力基础设施 / 能效

算力基础设施 / 能效 · 8.5/10 · 持续观察

AI 数据中心有时不是买不到服务器,而是供电额度已经用满。NVIDIA 在 9 月 15 日披露的 Lambda 测试中,团队把每台机器的功率上限适当调低,再动态分配机架电力,在原来容纳 16 台服务器的功率预算里运行了 19 台。

按 NVIDIA 发布的客户案例,测试使用 HGX B200 集群。在 GPT-OSS-120B 推理负载、每节点每秒 40 个请求的条件下,集群吞吐量约提高 24%。思路并不神秘:单台机器少追一点峰值性能,省下的电力可以支持更多机器;训练和推理混跑时,还能利用两类负载耗电节奏的差异。

这是厂商披露的客户测试,尚非独立复现,也没有证明所有模型、延迟要求和机房都能得到同样收益。更多服务器依然需要购置、机架和散热,“同样电力”不等于“零成本扩容”。但对被供电限制住的集群,怎样分配功率,已经可能和买哪张卡一样值得算账。