
> 当 70% 的代码拉取请求被 AI 智能体静默接管，且云账单未见增长，软件工程的成本结构正在经历一次不可逆的暴力重塑。

软件工程的历史，就是一部不断通过工具抽象来对抗复杂性的历史。Uber 近期披露的研发数据在行业内投下了深水炸弹。其部署的 AI Agent 接管了高达 70% 的代码拉取请求（PR），更令人震悚的是，这一海量任务的自动化并未导致 AI 算力账单的增长。这意味着 AI 在研发环节的渗透已经跨越了“高投入换取边际效率”的试验阶段，正式进入了“零成本暴增产能”的工业化应用深水区。

代码审查向来是大型科技公司研发流水线上最昂贵、最容易产生人力瓶颈的环节。资深工程师需要耗费大量精力去检查语法规范、安全漏洞与架构一致性。Uber 这一动作不仅彻底解放了高级开发者的生产力，更在底层揭示了基于 Prompt 缓存、本地模型部署或 API 极致优化所带来的惊人商业回报。

## 工业级智能体的落地闭环

**流水线劫持**　与早期的 Copilot 辅助编写不同，Uber 此次部署的 Agent 直接介入了代码合并的核心关卡。它不再是被动等待指令的工具，而是具备极高自主权的“审查官”。智能体通过接入企业的代码仓库，能够以毫秒级的速度理解上下文，跨越多个文件追踪变量生命周期，并自动生成详尽的评审意见，甚至直接提交修复补丁。

**算力账单魔法**　实现“账单零增长”的核心奥秘，在于对模型调用策略的极致抠门。Uber 极有可能在架构上采用了多层级的大模型路由策略。常规的静态分析与基础语法检查被下放至廉价的小参数模型或缓存池中，只有遇到极为复杂的并发逻辑或核心架构改动时，才触发调用昂贵的云端大模型。这种计算资源的精准调度，是大厂在 AI 时代必须掌握的内功。
![22.jpg](https://static.downly.cn/images/a1e569540bf9b9b8671427ce0241c23d.jpg)
<center>图源备注 图片由AI生成</center>

## 硅基程序员的侵蚀版图与职场洗牌

**初级岗位的结构性消亡**　当机器能够以近乎免费的成本完成繁琐的代码审查，传统意义上依靠“修 Bug”和“看代码”来积累经验的初级工程师岗位将面临灭顶之灾。流水线上的“螺丝钉”角色正在被无情抹去，企业将不再需要那些只能产出标准面条代码的人力资源。

**架构师角色的暴力上浮**　在剥离了低附加值的代码审查工作后，人类开发者的核心价值将极速上浮，彻底转向复杂业务逻辑的抽象、跨系统架构设计以及对 Agent 输出质量的最终裁决。未来的软件工程团队将变得极其精简，一个架构师带领数个 AI 智能体完成以往几十人工作量的“超级节点”模式正在成为现实。
![23.jpg](https://static.downly.cn/images/1f40fcff90cc0310cb60be90064fcd52.jpg)
<center>图源备注 图片由AI生成</center>

我们正在见证软件工业流水线的彻底重构。Agent 带来的不仅仅是降本增效，更是对“什么是程序员”这一职业定义的底层抹除。那些还在纠结于语法糖的开发者，很快就会发现，他们的对手是不需要睡眠且边际成本为零的硅基机器。

Uber 部署 Agent 吞噬代码审查 研发效能跃升的零成本突围


> 大模型下半场的竞争，已从跑分打榜转变为冷酷的服务器账单较量。蚂蚁百灵推出的权重缓存守护进程，直击多实例并发推理的显存瓶颈，用底层基建优化构筑起模型部署的降本护城河。

随着大模型在企业端的规模化落地，应用开发者们痛苦地发现：训练模型只是烧钱的开始，海量并发请求带来的推理成本才是真正深不见底的黑洞。在多租户、多微调模型（如庞大的LoRA集群）的实际服务场景中，GPU显存往往被频繁的模型权重加载与切换挤占，导致计算单元大量时间处于闲置等待状态。面对这一行业级痛点，蚂蚁百灵联合社区为开源推理框架SGLang贡献了权重缓存守护进程（Weight Cache Daemon），通过深入CUDA底层的显存调度优化，直接切中了阻碍大模型廉价化运作的工程命脉。

## 算力利用率的极限榨取

**显存墙破局**　在传统的推理框架中，当服务端需要切换不同的特定任务模型时，必须将原有模型的权重从GPU显存中卸载，再将新权重从内存（Host）甚至硬盘缓慢搬运至显存（Device）。这种I/O瓶颈在面对高并发的随机请求时，会导致极高的延迟毛刺。蚂蚁百灵贡献的守护进程彻底重构了这一流转机制，通过在GPU显存中开辟一块常驻的共享内存池，将高频调用的模型参数进行全局极速缓存。这一犹如为GPU装上“一级缓存”的硬核改造，将微调模型的切换延迟从秒级骤降至毫秒级，彻底打破了限制并发吞吐量的物理显存墙。

**多租户调度**　该守护进程更深层的技术价值在于其高度智能的调度算法。在面对企业内部成百上千个不同部门定制的专属模型时，守护进程能够像操作系统的内核调度器一样，实时监控显存碎片与计算负载。它通过动态预读、无锁共享机制，确保多个SGLang推理实例能够无缝复用底层的基座模型权重，而无需各自维持独立的显存副本。这不仅避免了宝贵显存资源的重复浪费，更使得单台物理服务器能够承载的并发模型数量实现了数倍的跃升。
![42.jpg](https://static.downly.cn/images/3b1aaa17f5a1fa89b232295f05f119fd.jpg)
<center>图源备注 图片由AI生成</center>

## 底层基建演进的生态推演

**推理成本雪崩**　这种触及显存管理底层的优化，将引发行业推理API价格的进一步雪崩。对于那些需要部署数万个个性化AI助手的企业级SaaS服务商而言，采用集成了蚂蚁百灵优化方案的SGLang，意味着其单次Token生成的边际硬件成本将被压缩到极致。底层的技术极客们正在通过一行行枯燥的C++与CUDA代码，硬生生地把原本高不可攀的AI算力，降维成了像自来水一样廉价的公共资源。

**开源框架洗牌**　在vLLM、TensorRT-LLM等推理框架厮杀激烈的当下，SGLang凭借其独树一帜的RadixAttention机制与此次蚂蚁百灵注入的权重缓存引擎，正在迅速扩大其在复杂多任务场景下的领先身位。技术底座的竞争从来没有捷径可走，谁能为开发者节省最硬核的真金白银，谁就能统领未来的开源生态。蚂蚁百灵的这一举动，无疑在整个大模型基建层投下了一枚重磅炸弹。
![43.jpg](https://static.downly.cn/images/bb29b3a227e2366ec4a0398f3ca26596.jpg)
<center>图源备注 图片由AI生成</center>

在喧嚣的AGI狂欢中，真正的壁垒往往不显山露水。蚂蚁百灵对SGLang的底层赋能再次印证了科技产业的铁律——伟大的商业革命，永远离不开那些在显存与带宽的泥潭中，将系统性能压榨到最后一滴的极致工程实践。

蚂蚁百灵开源SGLang权重缓存机制 推理引擎直击显存瓶颈



> 通过锁定千亿参数底座并向强化学习倾注算力，智谱证明了高信噪比的数据工程与对齐策略才是拉升逻辑推理能力的真正杠杆。

大模型领域的参数迷信正在被极其硬核的工程实践终结。智谱最新发布的GLM-5.3版本做出了一个极具标志性的技术决策，彻底放弃了更换底层神经网络拓扑结构与盲目扩张参数规模的常规路径。他们选择在7400亿参数的既有底座上，通过极度暴力的后训练强化拉升模型性能，最终在核心的编程与数学逻辑能力上逼近甚至持平国际第一梯队。这一转折清晰地标定了AI研发路线的分水岭。

## 算力杠杆向后训练倾斜的工程实践

**架构权衡**　长久以来，行业被预训练规模法则深深裹挟，认为只有投喂极其庞大的无监督语料才能涌现更强的泛化智能。而GLM-5.3的架构师极其冷酷地按下了底座膨胀的暂停键。他们敏锐地察觉到网络权重的知识密度已经趋近当前语料库的极限，继续扩大参数量带来的边际收益已无法覆盖庞大的显存开销，将核心算力转移至微调阶段是唯一理性的工程解法。

**对齐收益**　在不改变基础拓扑的前提下，研发团队通过引入Agentic RL等高阶强化学习算法与极为苛刻的多阶段数据清洗，硬生生拉高了模型在复杂上下文中的逻辑连贯性。这种极其精细的后训练流程，本质上是在消除预训练语料中的冗余噪声，将模型散漫的概率分布强制收敛到符合人类高阶逻辑的推理路径上，从而实现了以静制动的算力效率最大化。
![32.jpg](https://static.downly.cn/images/f37e9eb6bec8327d4d38413d42759bc8.jpg)
<center>图源备注 图片由AI生成</center>

## 后训练时代的算力范式迁移

**研发流水分化**　这一成功范例将彻底重塑大模型初创公司的资源分配时间表。预训练将逐渐沦为少数算力寡头的枯燥基建，而真正决定模型商业价值胜负手的，将是后训练阶段的数据飞轮构建与强化学习策略。掌握垂类行业极高规格合成数据与清洗流水线的团队，将在这一轮技术洗牌中获得降维打击的优势。

**推理边界重塑**　当死磕后训练成为行业共识，模型的评测标准将发生根本性偏移。静态的参数量与宽泛的文本生成能力将被彻底边缘化，取而代之的将是极长指令遵循、代码沙盒内的高容错自我纠正机制，以及在多步逻辑推演中的显存占用极小化。算法工程师的刀锋将直指模型内在的推理纯度。
![33.jpg](https://static.downly.cn/images/443bba8df073f43c97392566716ab5ea.jpg)
<center>图源备注 图片由AI生成</center>

算力的粗放燃烧时代已经落幕，极致的后训练调教正在重新定义硅基智能的逻辑极值。

智谱GLM-5.3放弃底座迭代死磕后训练的技术逻辑

> 在 AI 圈里，如果你还在讨论怎么写提示词（Prompt Engineering），那可能已经落后了一个版本。2026 年，随着 OpenAI 和 Anthropic 的技术博客频繁提及 **Harness Engineering（驾驭工程）**，这个概念迅速成为了 AI Agent 开发的“深水区”。

简单来说：**提示词决定了大模型“怎么想”，而驾驭工程决定了大模型“怎么干”，且能“干多久”。**

### 一、 为什么我们需要 Harness Engineering？

要理解驾驭工程，必须先看清目前 AI Agent 面临的两大核心瓶颈：

1. **“失忆”问题（Context Amnesia）**：Anthropic 在《Effective Harnesses for Long-Running Agents》中指出，长时运行的 Agent 必须跨越多个上下文窗口。每个新会话都像是一个带着“健忘症”的新员工上班，如果不给他留存文档和状态，他就会无头苍蝇乱撞。
2. **“只会动嘴”问题**：纯提示词（Prompt）只能控制模型的回复风格。但在实际开发中，我们需要模型去写文件、运行 Bash 命令、修复报错。这些“手”的功能，提示词给不了。

**Harness（驾驭系统/脚手架）** 就是为了给大模型（大脑）配上稳定的“身体”和“工作制度”。

------

### 二、 驾驭工程的三个核心支柱

根据 Anthropic 的工程实践，一个有效的驾驭系统通常由以下三部分组成：

#### 1. 结构化环境的“初始化”（Initializer Agent）

驾驭工程的第一步不是直接写代码，而是“环境准备”。Anthropic 建议使用一个专门的 **Initializer Agent** 来解析原始需求，并生成详细的技术规范（JSON 格式或 Feature Specs）。

- **做法**：在任务开始前，由 Initializer 建立目录结构、配置基础脚本。这确保了后续执行的 Agent 始终在一个“有秩序”的环境中工作。

#### 2. “状态持久化”机制（Progress Artifacts）

为了解决长时任务的上下文失效问题，驾驭工程强调 **“离线记忆”**。

- **做法**：在代码仓库中固定一个 `progress.txt` 或类似的规则文件（如 `.cursorrules`）。Agent 在每一轮循环结束后，必须将当前进度、剩余任务、遇到的坑记录在这个文件中。
- **意义**：当上下文窗口打满需要重置时，Agent 只需重新读取这个“存档点”，就能无缝衔接，避免了“上下文腐烂”。

#### 3. 强悍的“反馈与验证层”（Verification Harness）

在《Harness Design for Long-Running Apps》中提到，Agent 失败的一个主因是“越努力越错”。

- **做法**：建立极其高质量的测试套件。驾驭系统会强制要求 Agent 在提交代码前运行测试，只有通过了验证层（Verification），进度才被允许更新。
- **解耦设计**：将“大脑”（LLM）与“手”（工具容器）解耦。驾驭系统监控容器状态，如果执行代码导致环境崩溃，驾驭系统会像“保姆”一样重启容器，并把错误报告传回给大脑，让其自我修复。

------

### 三、 实战：如何“驾驭”你的 AI Agent？

如果你正在使用 Cursor、Claude Code 或开发自己的 Agent，可以从以下三个层面应用驾驭工程：

| **层面**     | **传统做法（提示词工程）**   | **进阶做法（驾驭工程）**                                     |
| ------------ | ---------------------------- | ------------------------------------------------------------ |
| **任务拆解** | “请帮我写一个复杂的电商后端” | 使用 **Planner Agent** 预先生成多步骤的任务清单和接口文档。  |
| **进度管理** | 靠聊天记录翻找历史           | 强制要求 Agent 在根目录维护一个 `TODO.md`，每完成一步标记一次。 |
| **错误修复** | 复制报错信息发给 AI          | 接入 **MCP（模型上下文协议）**，让 Agent 自动捕获终端报错并尝试修复。 |

------

### 四、 结语：程序员的新角色

正如 Anthropic 的博客所揭示的：**AI 时代的编程，本质是“规则设计”。**

未来的软件工程将不再是单纯的代码堆砌，而是 **Harness Engineering**。程序员的工作重心将从“自己写代码”转向“为 Agent 编写完美的脚手架”：

- 编写高质量的**测试用例**（让 Agent 有评判标准）。
- 设计清晰的**任务规范**（让 Agent 有行动指南）。
- 优化**上下文注入策略**（让 Agent 有精准记忆）。

**公式：Agent = 大模型（大脑）+ Harness（身体 + 规则）**。

当那句“程序员不再写代码”的预言成真时，其实他们只是换了一种方式——他们在编写“驾驭”AI 的终极说明书。

------

*参考资料：*

- [*Anthropic Engineering: "Harness design for long-running application development"*](https://www.anthropic.com/engineering/harness-design-long-running-apps)
- [*Anthropic Engineering: "Effective harnesses for long-running agents"*](https://www.anthropic.com/engineering/effective-harnesses-for-long-running-agents)

2026 年 AI 圈的新黑话 - Harness Engineering 到底在火什么？

> 传统上，训练强大的 AI 模型需要海量的数据。然而，一项名为“Absolute Zero”的最新研究成果正在挑战这一范式，提出了一种基于强化自博弈推理的零数据学习方法。这项突破性进展不仅有望大幅降低 AI 的训练成本和数据依赖，更可能开启 AI 自我进化的新篇章，让 AI 在没有外部数据输入的情况下，通过内部的模拟和推理，不断提升自身能力。
## 一. Absolute Zero 的核心理念
Absolute Zero 的创新之处在于其对“零数据”的定义以及如何在这种极端条件下实现 AI 的能力提升。
1.  摆脱外部数据的束缚.
    与依赖大规模标注数据集或环境交互数据的传统方法不同，Absolute Zero 的训练过程不依赖任何外部的真实世界数据。
2.  基于强化自博弈的推理.
    其核心机制在于让 AI 通过内部的模拟和推理过程，与自身进行“博弈”。在这个过程中，AI 不断生成假设、进行验证、学习经验，并通过强化学习机制来优化其推理能力。
![image.png](https://static.downly.cn/images/20250513072127.346836689.png)
## 二. 实现 Absolute Zero 的关键技术
Absolute Zero 的实现得益于多项前沿技术的融合与创新。
1.  强大的内部模拟环境.
    AI 内部需要构建一个足够精细和灵活的模拟环境，以便进行各种推理和验证。
2.  高效的强化学习算法.
    需要设计能够在这种零数据、自博弈环境中有效工作的强化学习算法，以驱动 AI 不断优化其策略和推理过程。
3.  生成式模型的辅助作用.
    生成式模型可以在内部模拟环境中生成多样化的情景和数据，为自博弈提供丰富的素材。
## 三. Absolute Zero 的潜在影响与意义
Absolute Zero 的出现不仅仅是技术上的突破，更具有深远的潜在影响。
1.  降低 AI 训练的门槛与成本.
    无需海量数据意味着更低的收集、标注和存储成本，使得更多机构和个人能够参与到 AI 的研究和应用中。
2.  提升 AI 的泛化能力.
    通过内部的推理和模拟，AI 有望学习到更具通用性和鲁棒性的推理能力，减少对特定数据集的过拟合。
3.  加速 AI 的自我进化.
    Absolute Zero 为 AI 提供了一条自我提升的路径，理论上，AI 可以通过持续的内部博弈和推理，不断超越自身的当前能力。
4.  解决数据隐私与安全问题.
    由于不依赖外部数据，Absolute Zero 在一定程度上规避了数据隐私和安全方面的风险。
   ![image.png](https://static.downly.cn/images/20250513072248.443604331.png)
## 四. 面临的挑战与未来展望
Absolute Zero 作为一个开创性的研究方向，仍然面临一些挑战。
1.  内部模拟环境的复杂性.
    构建能够支持复杂推理的内部模拟环境本身就是一个巨大的挑战。
2.  训练效率与收敛性.
    在零数据环境下实现高效的训练和确保模型收敛需要进一步的研究和优化。
3.  可解释性与可控性.
    如何理解和控制 AI 在这种自博弈过程中学习到的推理过程，仍然是一个难题。
4.  从理论到实际应用的距离.
    将 Absolute Zero 的理论成果转化为实际可用的 AI 系统还需要大量的工程实践。
## 五. 开启 AI 自我学习的新篇章
Absolute Zero 的提出，为人工智能的发展开辟了全新的道路。它让我们看到了在没有外部数据输入的情况下，AI 通过自身的努力，通过内部的模拟、推理和博弈，实现能力飞跃的可能性。这不仅仅是一项技术创新，更可能预示着 AI 自我学习和自我进化的新纪元即将到来。尽管挑战犹存，但 Absolute Zero 所展现出的巨大潜力，无疑将激励更多的研究者投身于探索 AI 智能的本质和边界。
![image.png](https://static.downly.cn/images/20250513072339.356285477.png)

搜索结果: 工程实践