

> 硬件霸主正向模型算法层狂奔。通过对混合专家架构进行极限压缩，英伟达在不牺牲精度的前提下实现吞吐量飙升，其本质是为自家GPU生态打造最高效的榨汁机。

## 极限压缩 榨干每一滴显存带宽

大模型的演进早已过了盲目堆砌参数的草莽时代，内存墙和通信带宽成为了横亘在所有AI工程师面前的大山。英伟达此次推出的Nemotron-Labs-3-Puzzle-75B-A9B模型，名字虽然如同密码般冗长，但其背后的技术洞察却极其犀利。它直击当前MoE（混合专家模型）架构的痛点——在多专家并行时导致的显存碎片化与通信开销。

传统MoE模型虽然在推理时只激活部分参数，但庞大的模型体积依然需要占用惊人的显存空间。英伟达通过“压缩混合MoE”这一极其硬核的技术路径，重构了专家层的激活逻辑。技术创新点　模型通过更高效的张量并行策略与专家路由机制，将冗余的参数死角彻底抹除。这使得在同等用户并发请求下，服务器的整体吞吐量飙升了2.03倍。在系统底层，这就好比把一条拥堵的四车道公路，通过智能调度系统瞬间改造成了八车道的高速公路。

![32.jpg](https://static.downly.cn/images/d6d7ac66538330500598903aaec29865.jpg) <center>图源备注 图片由AI生成</center>

## 不只卖铲子 软件定义硬件的阳谋

在很多人的刻板印象里，英伟达只是一家卖GPU的硬件公司。然而，Nemotron系列模型的持续迭代，展现了黄仁勋极其深远的软硬协同战略。这个75B规模的模型，实际上是英伟达为其最新的B200或H200芯片量身定制的“标杆应用”。

英伟达向业界传递了一个明确的信号　光有顶级的算力硬件不够，只有配合英伟达自家的CUDA生态和专门优化的模型架构，才能将服务器的吞吐量推向极限。通过将吞吐量提升两倍，英伟达间接帮其企业客户将单Token的推理成本砍掉了一半。这种通过算法层面的优化来提升硬件商业价值的打法，构建了一道极度深邃的护城河。下游开发者会发现，同样是开源模型，跑在非英伟达硬件上的性能损耗令人难以忍受。

![33.jpg](https://static.downly.cn/images/ad66ccafe0564570b71a48ca13bec30b.jpg) <center>图源备注 图片由AI生成</center>

## 务实的未来预测 推理效率成为第一性原理

Nemotron 75B的发布标志着模型架构研究的风向标正式转移。未来，学术界与工业界将不再痴迷于纯粹的基准测试分数，而是全面转向对极致吞吐量和极低显存占用的追求。能够完美适配特定硬件架构，将算力榨取到极致的模型，才是下一阶段B端企业采购的首选。

英伟达发布75B混合MoE模型 吞吐量翻倍背后的软硬协同战略



> 算力霸主不仅卖硬件，更在通过算法榨干芯片性能。新一代压缩MoE架构在保持精度的同时，将推理成本砍半，直接重塑了模型部署的经济学。

## 吞吐量翻倍背后的算法突围

在大型语言模型的竞赛进入深水区后，单纯比拼参数量已经成为过去式。如何在有限的服务器集群中，用最少的显存和带宽处理尽可能多的并发请求，才是当前大厂军备竞赛的真正焦点。英伟达此次发布的Nemotron-Labs系列模型（特别是3-Puzzle模型），正是对这一行业痛点开出的一剂猛药。

长期以来，虽然MoE（混合专家）架构通过“只激活部分参数”的机制有效降低了计算资源的消耗，但它也带来了另一个噩梦——庞大的整体参数量对显存容量（VRAM）的要求极高。当显存成为瓶颈时，服务器的吞吐量就无法提升。英伟达的研究团队敏锐地捕捉到了这一点，他们没有选择在硬件上强行堆料，而是从底层算法动刀，首创了高度压缩的混合MoE架构。

![42.jpg](https://static.downly.cn/images/c53188d7c998e412633ba28918c20ae7.jpg) <center>图源备注 图片由AI生成</center>

## 压缩MoE架构解决的算力瓶颈

Nemotron-Labs系列的核心创新在于其极其精妙的路由机制与参数共享策略。传统的MoE模型中，各个“专家”网络往往各自为战，存在大量的知识冗余。而英伟达通过独特的知识蒸馏和网络剪枝技术，将这些专家网络中重复的特征表达进行了深度折叠与压缩。

架构创新　在实际的推理过程中，该模型能够在维持高精度的前提下，将静态权重的显存占用大幅缩减。更关键的是，他们优化了KV Cache（键值缓存）的分配逻辑，使得在处理超长文本上下文时，显存碎片化的问题得到了有效遏制。这意味着，在同等硬件配置的服务器上，原本只能支持并发处理100个用户的场景，现在能够毫无压力地扛住200个甚至更多用户的并发请求，吞吐量实现了惊人的翻倍跨越。

![43.jpg](https://static.downly.cn/images/8d03f20bb3512436c50fab91f17bd08a.jpg) <center>图源备注 图片由AI生成</center>

## 重塑模型部署的商业账本

对于广大的云服务提供商和企业级开发者而言，吞吐量翻倍绝对不是一个冰冷的技术指标，而是实实在在的财务收益。在当前GPU算力依然昂贵且供不应求的背景下，推理成本往往占据了AI应用全生命周期成本的大头。

算力账本　Nemotron-Labs模型的出现，直接将单位Token的生成成本拦腰斩断。这让许多原本因为高昂算力成本而无法商业化落地的复杂AI应用，瞬间具备了盈利的可能。英伟达不仅通过其硬件垄断了训练端，现在更通过顶级的开源算法重塑了推理端的生态标准。这种“软硬一体”的降维打击，正在进一步加高其在人工智能基础设施领域的坚固护城河。

英伟达发布Nemotron-Labs模型 压缩混合专家架构使服务器吞吐量翻倍



> 从送外卖到硬核炼丹，美团耗费海量国产算力打造1.6万亿参数的MoE模型，其背后绝非单纯的秀肌肉，而是一场试图在AI Agent时代抢占基础设施话语权的深远布局。

## 撕掉外卖标签 国产算力集群的高光时刻

当外界对美团的认知还停留在骑手与团购时，它悄然在AI底层基础设施领域扔下了一枚重磅炸弹。最新发布的LongCat-2.0大模型，总参数规模达到了惊人的1.6万亿，每个Token激活约480亿参数，原生支持1M超长上下文。

核心震撼　但真正让业界侧目的，并非单纯的参数量，而是它完全基于国内5万张专用AI算力卡（ASIC）完成了从头预训练到推理的全流程。长久以来，国产算力集群一直饱受“生态差”、“断连多”、“仅能做微调（后训练）”的诟病。美团的技术团队用这只“长猫”硬刚了卡间通信异常、显存压力等硬件痛点，通过自研确定性算子和零计算专家机制，跑通了模芯协同的盲区。

这标志着国产算力首次在万亿级MoE架构模型的端到端训练中证明了其工程可行性。对于被英伟达生态长期钳制的中国科技企业而言，美团交出了一份具备极高战略价值的“脱钩”答卷。

![52.jpg](https://static.downly.cn/images/4b67bf26c2bff884b10c2e40fc884c59.jpg) <center>图源备注 图片由AI生成</center>

## 醉翁之意不在酒 剑指AI智能体入口

然而，一家以本地生活为主业的互联网大厂，为何要不计成本地投入基础大模型的研发？答案藏在LongCat-2.0的产品定位中。该模型高度聚焦于Agentic Coding（智能体编程）任务，深度适配了Claude Code、OpenClaw等主流智能体框架。

商业图谋　美团看准的是下一代互联网的操作入口。在未来的商业图景中，用户将不再需要通过点开各种App来完成点餐或酒旅预订，而是直接向AI Agent下达自然语言指令。在预览版阶段，美团甚至采取了匿名（Owl Alpha）接入OpenRouter的奇袭战术，一举在多个Agent测试场景下拿下全球调用量前三，仅次于顶级闭源模型Claude Opus 4.8。

美团以免费和开源为诱饵（尽管当前依然是暂缓释放权重的“期房”状态），吸引全球顶尖开发者在LongCat上构建智能体应用。通过掌握最底层的代码生成与复杂任务调度模型，美团实质上是在为未来的自动化商业帝国夯实地基。谁掌握了最强的通用Agent大脑，谁就能在下一个十年的服务分发网络中掌握绝对的抽佣权。

![53.jpg](https://static.downly.cn/images/7fcc08c0b672b11096049c24f851a346.jpg) <center>图源备注 图片由AI生成</center>

五万张国产卡炼出万亿模型 美团的算力阳谋与生态卡位战



> 放弃简单粗暴的参数堆砌，转向更为精巧的混合专家网络与稀疏激活机制。在硬件被卡脖子的背景下，工程优化已成为唯一解药。

在长达两年的算力封锁与芯片禁令阴影下，国产大模型的发展路径被迫与硅谷分道扬镳。当大洋彼岸的巨头们还在迷信“大力出奇迹”，用数以十万计的H100集群暴力堆砌参数时，智谱即将在8月推出的GLM-5.5展现出了另一种充满工程智慧的底层架构革新。这款被寄予厚望、意图追赶全球顶尖水平的模型，其核心技术亮点并不在于绝对参数量的膨胀，而在于对现有算力极致的压榨与调度优化。

## 告别暴力美学 走向极致的显存榨取

在算力受限的客观现实下，智谱GLM-5.5的研发团队必须像顶级赛车手一样，在引擎马力受限的情况下，通过极致的空气动力学与底盘调校来榨取每一丝圈速。从目前披露的技术脉络来看，GLM-5.5在底层架构上深度重构了混合专家网络（MoE）的路由机制。

技术拆解　传统的MoE模型在面对复杂指令时，往往会出现专家负载不均的问题，导致部分算力闲置而部分显存溢出。GLM-5.5引入了一种全新的动态令牌路由算法，将过去粗粒度的任务分配，精细化到词元级别的动态感知。这意味着模型在推理过程中，能够像极其熟练的交通警察，根据当前显存的实时状态，将计算任务无缝穿插到系统总线的空闲周期中。通过重叠计算与通信时间，GLM-5.5大幅降低了对于超高速互联带宽（如NVLink）的绝对依赖，使得在国产替代算力集群上也能跑出接近极致的推理吞吐量。

![32.png](https://static.downly.cn/images/62747570b55e926d5842e00cb5ad107d.png) <center>图源备注 图片由AI生成</center>

## 追赶顶尖水平的底层技术考量

追赶全球顶尖大模型，不仅是追赶其在多语言基准测试上的分数，更是追赶其在超长上下文理解和复杂逻辑推理上的深度。GLM-5.5在长文本处理方面，采用了极为硬核的注意力机制变体。

突破瓶颈　以往的模型在处理超过十万字的长文本时，KV Cache（键值缓存）会随着文本长度呈平方级增长，最终撑爆GPU显存。GLM-5.5的架构创新在于实施了分层压缩记忆机制。你可以将其理解为人类大脑的记忆系统，模型不仅能识别当前上下文中最重要的“短期记忆”，还能将过去阅读过的大段文本自动提炼为高密度的“长期记忆向量”进行冷存储。当遇到相关提问时，再通过稀疏检索迅速激活。这种底层技术的重构，让GLM-5.5能够在有限的算力物理瓶颈下，展现出与世界第一梯队比肩的上下文掌控力，这是一场属于中国AI开发者的工程逆袭。

![33.png](https://static.downly.cn/images/5ff61f2692d82ce77aaf92a85040d8dd.png) <center>图源备注 图片由AI生成</center>

智谱GLM-5.5架构前瞻 算力受限下的国产大模型突围路径





> 导语：今日AI界动态纷呈，从底层模型的技术革新到上层应用的功能拓展，无不展示着人工智能发展的迅猛势头。不论是致力于提升模型效率与速度的阿里巴巴与蚂蚁集团，还是在图像生成、办公自动化等领域取得新突破的腾讯和Claude，亦或是关注AI可信度与开发流程优化的智谱和沃尔玛，科技巨头与初创企业正共同描绘一幅更加智能、高效的未来图景。

## 字节跳动USO模型问世 告别AI绘画的“风格分裂”

字节跳动UXO团队近期发布了其创新的USO模型，该模型在一个统一的框架内，首次成功解决了长期困扰AI图像生成领域的风格与主题难以调和的矛盾。通过构建一个包含约20万三元组（涵盖风格、内容参考及其他信息）的庞大数据集进行训练，USO模型能够精准理解并融合用户的风格偏好与内容主题，从而生成二者兼得的艺术作品，实现了风格与主题的和谐统一。

![image.png](https://static.downly.cn/images/850ecf3d12db2a3a84393fd1b1af5255.png)
<div align="center">图源备注：图片由AI生成</div>
<br>

## 蚂蚁集团Ling-mini-2.0开源 轻巧身躯爆发强大能量

蚂蚁集团百灵团队正式开源了其Ling-mini-2.0模型，该模型在轻量化与高性能之间取得了卓越的平衡。它巧妙地运用了MoE（混合专家）架构和参数稀疏激活技术，虽然总参数量达到160亿，但在实际运行时每次仅需激活其中的14亿参数。这一设计不仅使其具备了处理长达128K上下文的能力，更带来了极高的生成速度，其综合性能足以媲美市面上主流的百亿级参数密集型模型以及更大规模的MoE模型。

![image.png](https://static.downly.cn/images/b89a54e1f10d89f267fbdaf1ad6a2b51.png)
<div align="center">图源备注：图片由AI生成</div>
<br>

## 日本Sakana AI成新晋独角兽 师从自然探索“集体智能”

成立仅一年的日本AI初创企业Sakana AI，凭借其独特的创新理念迅速成长为行业独角兽。公司创始人，前谷歌大脑研究员David Ha及其同事Llion Jones，将研究重点放在了借鉴自然界智慧的“集体智能”上。他们致力于探索如何将多个现有及新兴的AI系统进行有效融合，而非单纯追求更大的数据和模型规模，旨在开辟一条更高效、更具协同效应的人工智能发展新路径。

![image.png](https://static.downly.cn/images/53217cafa2bf875fee2a634523703af8.png)
<div align="center">图源备注：图片由AI生成</div>
<br>

## Claude模型响应质量下滑 Anthropic官方回应并完成修复

针对近期用户反映的Claude系列模型回复质量下降的问题，人工智能公司Anthropic正式确认并作出回应。官方表示，问题的根源并非出于成本控制或需求激增，而是源于两次独立的技术故障。一次故障发生在8月5日至9月4日，影响了部分Claude Sonnet 4的请求；另一次则发生在8月26日至9月5日，波及了部分Claude Haiku 3.5和Claude Sonnet 4的请求。目前，公司技术团队已成功定位并修复了这些意外故障。

![image.png](https://static.downly.cn/images/22f5c272c1f1b8545b3c8c0f01252d3f.png)
<div align="center">图源备注：图片由AI生成</div>
<br>

## 腾讯混元图像2.1开源 2K高清创作进入“秒速时代”

腾讯混元团队宣布正式开源其最新的文本到图像生成模型 HunyuanImage 2.1。该模型在AI设计领域实现了重大突破，原生支持高达2K分辨率的高清图像输出，并且生成速度与传统的1K分辨率图像生成相当。此外，新版本显著提升了对复杂文本提示的理解能力，能够更精准地控制多主体元素的生成，这将极大推动AI在专业设计、广告创意和内容创作等领域的应用效率。

![image.png](https://static.downly.cn/images/ae445774da5dcd24400cf369cc12b578.png)
<div align="center">图源备注：图片由AI生成</div>
<br>

## 沃尔玛发布WIBEY平台 赋能开发者简化工作流程

零售巨头沃尔玛于2025年8月正式推出了其超级智能平台 WIBEY。该平台是沃尔玛智能框架的关键组成部分，其核心目标是彻底重塑开发者的工作流程。通过WIBEY，开发者可以快速地描述需求，平台能够自动生成可供测试的代码，从而极大地简化了从概念到部署的整个技术实现过程，提升开发效率。

![image.png](https://static.downly.cn/images/f587bcf30067f8192726a1f29c033505.png)
<div align="center">图源备注：图片由AI生成</div>
<br>

## 智谱联手彩智科技推出“深知”服务 向大模型“幻觉”说不

为解决大语言模型在处理专业领域知识时容易出现信息不准确甚至“幻觉”的问题，智谱BigModel开放平台与彩智科技携手，共同推出了“DeepKnown深知可信知识服务”。该服务旨在为AI应用提供经过验证的、高准确性的知识源，尤其是在面对行业标准、法律法规等严肃内容时，确保AI能够提供可靠、可信的回答，帮助开发者构建值得信赖的智能体。

![image.png](https://static.downly.cn/images/05ae2083e07d38a1a5bcd69c97d74532.png)
<div align="center">图源备注：图片由AI生成</div>
<br>

## 阿里通义千问Qwen3-Next发布 以小博大实现10倍速度飞跃

阿里巴巴通义千问团队发布了其革命性的新模型 Qwen3-Next-80B-A3B-Instruct。这款模型颠覆了传统大模型的运作逻辑，它拥有80亿的总参数量，但在实际推理时，通过创新的架构仅需激活其中的3亿参数，便能达到全量参数的性能水平。这种“以小博大”的设计使其推理速度实现了惊人的10倍提升。目前，该模型已集成至Hugging Face的Transformers库中，向全球开发者开放。

![image.png](https://static.downly.cn/images/f6cd2f1400d7d46f4a8e888f145896ad.png)
<div align="center">图源备注：图片由AI生成</div>
<br>

## Claude迎来重磅升级 办公文档一键生成

AI助手Claude近日进行了一项重大功能升级，极大地提升了其在办公场景的实用性。现在，用户可以直接要求Claude生成和编辑包括Excel、Word、PPT以及PDF在内的多种常用办公文件。无论是从零开始创建一份报告，还是基于现有数据进行清洗、分析和解读，Claude都能够快速响应指令，产出高质量的“现成品”文件。该功能已在官网和桌面应用上线，并逐步向不同层级的用户开放。

![image.png](https://static.downly.cn/images/25359d6652111b921268725b1456e9fb.png)
<div align="center">图源备注：图片由AI生成</div>
<br>

每日AI资讯0911：模型“瘦身”掀速度革命，实用功能全面爆发

> 近日，小红书正式开源了其自主研发的 MoE 大模型 dots.llm1，为开源社区注入新活力。这款模型在多个基准测试中展现出卓越性能，超越了 Qwen3，但略逊于 DeepSeek-V3，标志着小红书在通用大模型领域迈出了重要一步。



在AI大模型领域，开源与创新正成为行业发展的重要驱动力。 近日，知名内容社区平台小红书正式宣布开源其自主研发的MoE大模型——**dots.llm1**。 这一举动不仅为大模型开源社区增添了新的力量，也展示了小红书在通用人工智能技术上的深厚积累。
[HF演示空间](https://huggingface.co/spaces/rednote-hilab/dots-demo)
![image.png](https://static.downly.cn/images/7a1bb034ee5f4b483734b712a73e0fff.png)


dots.llm1 的开源，意味着全球开发者和研究人员可以访问其模型权重、架构细节以及相关工具，从而促进技术的交流与合作，加速MoE模型在不同应用场景的探索和落地。


### MoE 架构的优势与 dots.llm1 的亮点

dots.llm1 采用了当前前沿的 MoE 架构，这种架构通过激活模型中部分“专家”网络来处理输入，从而在提升模型性能的同时，显著降低推理成本。 相比于传统的密集型模型，MoE 模型能够在参数量巨大的情况下，实现更高效的计算。

dots.llm1 的主要亮点包括

*   **高效的 MoE 架构** 通过稀疏激活机制，模型在处理不同任务时能够动态选择最适合的专家，从而提高推理速度和效率。
*   **出色的中文处理能力** 作为源自小红书的模型，dots.llm1 在中文语料上进行了充分训练，预计在中文理解、生成和对话方面表现优异，尤其是在中文内容社区相关的任务上。
*   **开放性和可扩展性** 开源模式将鼓励社区对其进行微调和优化，以适应更广泛的垂直领域应用。

### 性能评测 超越 Qwen3 逼近 DeepSeek-V3

小红书对 dots.llm1 进行了多项基准测试，结果显示其性能表现亮眼

*   **超越 Qwen3** 在多个通用能力基准测试中，dots.llm1 的表现均优于此前广泛使用的 Qwen3 模型。 这表明小红书在模型架构和训练策略上取得了显著进步，使其能够超越业界主流的同类开源模型。
*   **略逊于 DeepSeek-V3** 尽管 dots.llm1 表现强劲，但与业界顶尖的 MoE 模型 DeepSeek-V3 相比，仍存在一定差距。 DeepSeek-V3 以其卓越的性能和效率在MoE领域树立了新的标杆，dots.llm1 的表现虽然未完全达到，但差距已不大，这为未来的优化和迭代留下了巨大的想象空间。

![image.png](https://static.downly.cn/images/daf067a02ecb4fe0ae3639fbb05102ad.png)

这次性能评估，也进一步凸显了 MoE 架构在兼顾性能与效率方面的巨大潜力。 尽管 dots.llm1 在某些方面未能完全达到顶尖水平，但作为一款新晋开源的 MoE 模型，其展现出的实力已经足以令人期待。

### 小红书在 AGI 领域的布局与影响

dots.llm1 的开源，是小红书在通用人工智能（AGI）领域战略布局的重要一步。 作为一家以内容社区为核心的公司，小红书拥有海量的优质图文和视频数据，这些数据将为其未来大模型的训练和优化提供得天独厚的优势。

此次开源的意义在于

*   **赋能社区** 通过开放核心技术，小红书可以吸引更多的开发者和研究人员共同参与到大模型生态的建设中来，加速技术创新。
*   **推动行业发展** 增加高性能开源 MoE 模型的供给，有助于降低企业和开发者使用 MoE 模型的门槛，推动 MoE 架构在更多实际场景中的应用。
*   **提升自身影响力** 通过开源，小红书不仅贡献了技术，也提升了自身在 AI 领域的品牌形象和影响力，有望吸引更多AI人才。



### 未来展望

随着 dots.llm1 的开源，我们可以预见，基于 MoE 架构的大模型将迎来更广泛的关注和应用。 小红书的这一举动，无疑为国内乃至全球的开源大模型生态注入了新的活力。 未来，我们期待看到 dots.llm1 在社区的共同努力下，不断优化迭代，在性能上进一步逼近甚至超越现有顶尖模型，并在更多创新应用场景中发挥关键作用。



搜索结果: MoE模型