
> 最新基准测试显示，英伟达 GB200 NVL72 系统在处理混合专家（MoE）模型时，性能高达 AMD MI355X 集群的28倍，且每 token 成本仅为后者的十五分之一。这一数据不仅确立了英伟达在超大规模推理领域的绝对统治力，也揭示了“极致协同设计”在解决通信瓶颈上的关键作用。

## 极致架构 破解 MoE 模型通信瓶颈

Signal65 发布的最新 SemiAnalysis InferenceMAX 报告，针对 Deepseek-R1 0528 混合专家（MoE）模型进行了深度评测。MoE 模型的优势在于能根据任务动态激活最匹配的“专家”模块，但在大规模扩展时，节点间的通信延迟往往成为致命瓶颈。

英伟达通过 GB200 NVL72 给出了教科书般的解决方案。该系统并未单纯堆砌算力，而是采用了“极致协同设计”策略，将72颗芯片紧密互联，并配备高达 30TB 的共享内存。这种设计彻底打通了数据传输的高速公路，显著降低了延迟。测试数据显示，在相似配置下，GB200 NVL72 的每个 GPU 吞吐量高达 75 tokens/秒，性能达到 AMD MI355X 的28倍。

![Google_AI_Studio_2026-01-04T06_28_05.509Z.png](https://static.downly.cn/images/4e9b342e55d6f7185785fbd89c97eec6.png)
 <center>图源备注：图片由AI生成</center>

## 成本效益 TCO 成为云厂商的核心考量

对于超大规模云计算厂商而言，单纯的性能指标不足以决定采购意向，整体拥有成本（TCO）才是关键。Signal65 结合 Oracle 云定价模型分析指出，GB200 NVL72 在提供极高交互速率的同时，展现了惊人的成本效益。

其每 token 的相对成本仅为 AMD 方案的十五分之一。这意味着在同等预算下，企业能够获得数十倍的算力产出，或者在满足同等业务需求时大幅削减硬件开支。这种“降本增效”的双重优势，使得 GB200 NVL72 在高端推理市场几乎没有对手。

## 错位竞争 AMD 坚守稠密模型阵地

尽管在 MoE 领域遭遇重挫，AMD 并非全无机会。报告强调，AMD 的 MI355X 凭借大容量 HBM3e 内存，在稠密模型（Dense Models）环境中依然具备极强的竞争力。

目前，AMD 尚未推出能与 GB200 NVL72 正面对抗的机架级解决方案。但随着 AMD Helios 平台与英伟达 Vera Rubin 平台的对决临近，双方在机架级扩展方案上的博弈将更加激烈。对于 AMD 而言，如何突破互联带宽限制，构建类似 NVL72 的高内聚系统，将是其能否在下一代计算竞赛中翻盘的关键。

性能碾压 AMD 28倍 英伟达 GB200 NVL72 确立机架级霸权



> 导语：博通（Broadcom）CEO Hock Tan在财报会议上披露，公司已斩获Anthropic总计210亿美元的TPU订单，这款由谷歌设计的AI芯片正凭借成本优势对英伟达的市场份额发起强力挑战，预计未来数年将大规模部署。



## 210亿美元大单注入强心剂

在近期的财报会议上，Broadcom首席执行官Hock Tan带来了一则震撼业界的消息。人工智能领域的独角兽企业Anthropic已向Broadcom发出了巨额订单，专门用于采购谷歌最新的张量处理单元（TPU）。

Tan透露，公司在上一季度首先收到了来自Anthropic的100亿美元订单。紧接着在第四季度，这一数字又增加了110亿美元，预计交付时间将持续至2026年底。这意味着，Anthropic在TPU上的总投入已高达210亿美元。

![image.png](https://static.downly.cn/images/30e0e7bd895834743fd5aa5f106a237f.png)

<center>图源备注：图片由AI生成</center>

## 积压订单高达730亿美元

Broadcom在AI硬件领域的势头正劲。公司披露，目前在人工智能产品方面已积累了高达730亿美元的待交付订单，这些订单预计将在未来的六个季度内陆续发货。

TPU作为谷歌专门为AI工作负载开发的加速器，目前已迭代至第七代。它不仅支撑着谷歌云的客户服务，更是谷歌内部Gemini系列模型训练与部署的核心动力。在这一合作模式中，谷歌负责TPU的架构设计，而Broadcom则利用其在半导体制造领域的专业能力，将设计转化为可大规模生产的硅片。这种分工完美契合了谷歌控制关键AI硬件设计、同时依赖合作伙伴制造能力的战略。

## Anthropic的宏大基建计划

作为TPU的长期拥趸，Anthropic正在规划一项业内最大规模的专用AI计算建设。公司计划在2026年前部署多达100万个TPU，并配套超过一吉瓦的新增计算能力。

除了Anthropic，TPU的生态圈正在迅速扩大。Meta、Cohere、Apple以及Ilya Sutskever的新创业公司Super Safe Intelligence（SSI）均已确认使用TPU。据媒体报道，Meta甚至正在评估从2027年起在其数据中心大规模部署TPU的可能性。

## 成本优势挑战英伟达霸主地位

TPU之所以能获得广泛应用，主要归功于其高效的能耗表现以及针对AI训练与推理的深度优化。这使得它逐渐成为NVIDIA GPU的有力竞争对手。Broadcom目前已确认拥有五家TPU XPU定制AI加速器客户。

![image.png](https://static.downly.cn/images/2a076e87091e664876e07831d1f37d93.png)

<center>图源备注：图片由AI生成</center>

根据SemiAnalysis的最新分析数据，虽然TPU v7在峰值浮点运算性能（FLOPs）和内存带宽上比NVIDIA的GB200平台低约10%，但在整体拥有成本（TCO）上却表现出显著优势：

*   谷歌内部部署Ironwood系统的成本比等效的NVIDIA系统低44%。
*   即便对外部客户报价，TPU v7的TCO也比NVIDIA GB200低约30%，比即将推出的GB300低约41%。
*   若Anthropic能实现约40%的机器利用率，TPU的有效训练成本每FLOP可能比GB300级别的GPU集群低50%至60%。

搜索结果: GB200