
> 最新基准测试显示，英伟达 GB200 NVL72 系统在处理混合专家（MoE）模型时，性能高达 AMD MI355X 集群的28倍，且每 token 成本仅为后者的十五分之一。这一数据不仅确立了英伟达在超大规模推理领域的绝对统治力，也揭示了“极致协同设计”在解决通信瓶颈上的关键作用。

## 极致架构 破解 MoE 模型通信瓶颈

Signal65 发布的最新 SemiAnalysis InferenceMAX 报告，针对 Deepseek-R1 0528 混合专家（MoE）模型进行了深度评测。MoE 模型的优势在于能根据任务动态激活最匹配的“专家”模块，但在大规模扩展时，节点间的通信延迟往往成为致命瓶颈。

英伟达通过 GB200 NVL72 给出了教科书般的解决方案。该系统并未单纯堆砌算力，而是采用了“极致协同设计”策略，将72颗芯片紧密互联，并配备高达 30TB 的共享内存。这种设计彻底打通了数据传输的高速公路，显著降低了延迟。测试数据显示，在相似配置下，GB200 NVL72 的每个 GPU 吞吐量高达 75 tokens/秒，性能达到 AMD MI355X 的28倍。

![Google_AI_Studio_2026-01-04T06_28_05.509Z.png](https://static.downly.cn/images/4e9b342e55d6f7185785fbd89c97eec6.png)
 <center>图源备注：图片由AI生成</center>

## 成本效益 TCO 成为云厂商的核心考量

对于超大规模云计算厂商而言，单纯的性能指标不足以决定采购意向，整体拥有成本（TCO）才是关键。Signal65 结合 Oracle 云定价模型分析指出，GB200 NVL72 在提供极高交互速率的同时，展现了惊人的成本效益。

其每 token 的相对成本仅为 AMD 方案的十五分之一。这意味着在同等预算下，企业能够获得数十倍的算力产出，或者在满足同等业务需求时大幅削减硬件开支。这种“降本增效”的双重优势，使得 GB200 NVL72 在高端推理市场几乎没有对手。

## 错位竞争 AMD 坚守稠密模型阵地

尽管在 MoE 领域遭遇重挫，AMD 并非全无机会。报告强调，AMD 的 MI355X 凭借大容量 HBM3e 内存，在稠密模型（Dense Models）环境中依然具备极强的竞争力。

目前，AMD 尚未推出能与 GB200 NVL72 正面对抗的机架级解决方案。但随着 AMD Helios 平台与英伟达 Vera Rubin 平台的对决临近，双方在机架级扩展方案上的博弈将更加激烈。对于 AMD 而言，如何突破互联带宽限制，构建类似 NVL72 的高内聚系统，将是其能否在下一代计算竞赛中翻盘的关键。

性能碾压 AMD 28倍 英伟达 GB200 NVL72 确立机架级霸权

> 近日，小红书正式开源了其自主研发的 MoE 大模型 dots.llm1，为开源社区注入新活力。这款模型在多个基准测试中展现出卓越性能，超越了 Qwen3，但略逊于 DeepSeek-V3，标志着小红书在通用大模型领域迈出了重要一步。



在AI大模型领域，开源与创新正成为行业发展的重要驱动力。 近日，知名内容社区平台小红书正式宣布开源其自主研发的MoE大模型——**dots.llm1**。 这一举动不仅为大模型开源社区增添了新的力量，也展示了小红书在通用人工智能技术上的深厚积累。
[HF演示空间](https://huggingface.co/spaces/rednote-hilab/dots-demo)
![image.png](https://static.downly.cn/images/7a1bb034ee5f4b483734b712a73e0fff.png)


dots.llm1 的开源，意味着全球开发者和研究人员可以访问其模型权重、架构细节以及相关工具，从而促进技术的交流与合作，加速MoE模型在不同应用场景的探索和落地。


### MoE 架构的优势与 dots.llm1 的亮点

dots.llm1 采用了当前前沿的 MoE 架构，这种架构通过激活模型中部分“专家”网络来处理输入，从而在提升模型性能的同时，显著降低推理成本。 相比于传统的密集型模型，MoE 模型能够在参数量巨大的情况下，实现更高效的计算。

dots.llm1 的主要亮点包括

*   **高效的 MoE 架构** 通过稀疏激活机制，模型在处理不同任务时能够动态选择最适合的专家，从而提高推理速度和效率。
*   **出色的中文处理能力** 作为源自小红书的模型，dots.llm1 在中文语料上进行了充分训练，预计在中文理解、生成和对话方面表现优异，尤其是在中文内容社区相关的任务上。
*   **开放性和可扩展性** 开源模式将鼓励社区对其进行微调和优化，以适应更广泛的垂直领域应用。

### 性能评测 超越 Qwen3 逼近 DeepSeek-V3

小红书对 dots.llm1 进行了多项基准测试，结果显示其性能表现亮眼

*   **超越 Qwen3** 在多个通用能力基准测试中，dots.llm1 的表现均优于此前广泛使用的 Qwen3 模型。 这表明小红书在模型架构和训练策略上取得了显著进步，使其能够超越业界主流的同类开源模型。
*   **略逊于 DeepSeek-V3** 尽管 dots.llm1 表现强劲，但与业界顶尖的 MoE 模型 DeepSeek-V3 相比，仍存在一定差距。 DeepSeek-V3 以其卓越的性能和效率在MoE领域树立了新的标杆，dots.llm1 的表现虽然未完全达到，但差距已不大，这为未来的优化和迭代留下了巨大的想象空间。

![image.png](https://static.downly.cn/images/daf067a02ecb4fe0ae3639fbb05102ad.png)

这次性能评估，也进一步凸显了 MoE 架构在兼顾性能与效率方面的巨大潜力。 尽管 dots.llm1 在某些方面未能完全达到顶尖水平，但作为一款新晋开源的 MoE 模型，其展现出的实力已经足以令人期待。

### 小红书在 AGI 领域的布局与影响

dots.llm1 的开源，是小红书在通用人工智能（AGI）领域战略布局的重要一步。 作为一家以内容社区为核心的公司，小红书拥有海量的优质图文和视频数据，这些数据将为其未来大模型的训练和优化提供得天独厚的优势。

此次开源的意义在于

*   **赋能社区** 通过开放核心技术，小红书可以吸引更多的开发者和研究人员共同参与到大模型生态的建设中来，加速技术创新。
*   **推动行业发展** 增加高性能开源 MoE 模型的供给，有助于降低企业和开发者使用 MoE 模型的门槛，推动 MoE 架构在更多实际场景中的应用。
*   **提升自身影响力** 通过开源，小红书不仅贡献了技术，也提升了自身在 AI 领域的品牌形象和影响力，有望吸引更多AI人才。



### 未来展望

随着 dots.llm1 的开源，我们可以预见，基于 MoE 架构的大模型将迎来更广泛的关注和应用。 小红书的这一举动，无疑为国内乃至全球的开源大模型生态注入了新的活力。 未来，我们期待看到 dots.llm1 在社区的共同努力下，不断优化迭代，在性能上进一步逼近甚至超越现有顶尖模型，并在更多创新应用场景中发挥关键作用。



搜索结果: 性能对比