Harness^2：面向开放世界的递归智能体 Harness 优化

论文解读

问题与动机

LLM 智能体的性能在很大程度上取决于其执行 harness（运行脚手架）——即围绕冻结的基础模型构建的提示词、工具、记忆、技能、工具指导、脚本、子智能体和插件等运行时支架。在动态的开放世界环境中，智能体会不断遇到未见过的复杂工作流程。现有的 harness 递归自我改进（RSI）技术面临两大主要挑战：

1. 缺乏 ground-truth 验证器：在线部署任务不提供真实答案或可靠的测试时评分函数，用以评估在线 harness 修改究竟是促进还是损害了性能。
2. 缺乏跨任务迁移能力：直接修改 harness 通常是任务特异的；盲目地将执行 harness 照搬到分布漂移的新任务中会导致不稳定性与性能倒退。

核心思想

Harness^2 耦合了两个不同的递归层级：

• 任务级递归（Task-Level Recursion）：通过对比式的 Propose–Probe–Compose（提议-探针-组合）循环，在没有 ground-truth 验证器的情况下优化当前任务的执行 harness。它生成不变提议（智能体通用操作工作流）与领域特定提议（专家领域规则），在对齐条件下探测二者，并组合经过验证的行为改进。
• Harness 级递归（Harnessing-Level Recursion）：将测试时优化过程中的可复用程序性经验和采纳的组件提取到持久的 harness 改进库中，从而增强改进机制在后续任务上的元能力。
• 可插拔扩展（Pluggable Scaling）：支持通过并行递归（并发组合 $k$ 个候选池）扩展探索宽度，或通过序列递归（$k$ 次链式迭代）扩展探索深度。

方法

智能体被解构为一个冻结的模型 $\mathcal{M}$ 和一个涵盖 $K=8$ 个文件级组件（系统提示词、护栏、记忆、技能、工具指导、脚本、子智能体、中间件插件）的可编辑 harness $\mathcal{H}=(c^1,\dots ,c^K)$。

任务级递归

对于任务 $q_t$、执行历史 $\mathcal{E}$ 以及固定的改进 harness ${\mathcal{R}}_t$，一个对比步骤 $\Phi$ 会生成更新后的 harness ${\mathcal{H}}^{\prime }$、执行记录 $e^{\prime }$ 和步骤记录 $\xi$： $$({\mathcal{H}}^{\prime },e^{\prime },\xi )=\Phi (q_t,\mathcal{H},\mathcal{E};{\mathcal{R}}_t)$$

1. Propose（提议）：采样一个参考执行轨迹 $e^0\sim \mathcal{A}(q_t;\mathcal{M},\mathcal{H})$。以 $e^0$ 和 ${\mathcal{R}}_t$ 为条件，生成一个不变候选（程序/工具流）和一个领域特定候选（从业者约束）。
2. Probe（探针）：在 $q_t$ 上执行候选方案，以观察与参考执行相比的行为差异对比。
3. Compose（组合）：从候选池中有选择地合并经过验证且无冲突的修改。

在并行递归中，采样 $k$ 个不变和领域候选，并通过 $k$ 个独立的组合会话生成后续 harness： $${\mathcal{H}}_j^{\prime }=\text{textsc}{Compose}_j(q_t,\mathcal{H},\mathcal{B},\mathcal{P};{\mathcal{R}}_t),j=1,\dots ,k$$ 在序列递归中，$k$ 个优化步骤依次链式串联： $$({\mathcal{H}}^{(r)},e^{(r)},{\xi }^{(r)})=\Phi (q_t,{\mathcal{H}}^{(r-1)},{\mathcal{E}}^{(r-1)};{\mathcal{R}}_t),r=1,\dots ,k$$

Harness 级递归

任务完成并选择产物后，改进过程会审查完整的改进记录 ${\mathcal{D}}_t$，以更新 harness 改进库： $${\mathcal{R}}_{t+1}=\text{textsc}Update({\mathcal{R}}_t,{\mathcal{H}}_t^{\star },{\mathcal{D}}_t)$$ 经验的提炼明确以具体的轨迹对比为条件，避免了虚假归因。

实验结果

在 WorkBuddy-Bench (WB)、JobBench 和 Legal Agent Benchmark (LAB) 上，使用 Gemini 3.5 Flash 和 GLM-5 在 OpenCode 和 Codex 环境下进行了评估：

• 单步 ($k=1$) 增益：在 WB 平均分上带来最高 $+11.5$ 分的提升（GLM-5 在 OpenCode 上：$64.2\to 75.7$），在 JobBench 上提升 $+4.5$ 分（Gemini 在 OpenCode 上：$31.5\to 36.0$），在 LAB 部分通过率上提升 $+11.8$ 个百分点（GLM-5 在 OpenCode 上：$59.6\%\to 71.4\%$）。
• 预算扩展（Budget Scaling）：在 $k=5$ 时引入并行递归，可在 WB 上获得额外 $+2.9$ 至 $+3.9$ 分的提升，在 JobBench 上提升 $+3.0$ 至 $+4.2$ 分，在 LAB 上提升 $+2.6$ 至 $+6.7$ 个百分点。
• 同模型改进器（Same-Model improver）：证明了收益并不依赖外部更强的模型；当同一个模型同时担任执行器和 harness 编辑器时（在 GLM-5 到 Claude Opus 5 上均进行了测试），在所有基准上均取得了一致的性能提升。
• 组件消融实验：移除库、角色范围划分（scoping roles）和组合步骤分别会使 WB 性能下降 $3.1$、$2.9$ 和 $1.6$ 分。

局限性与开放问题

• 推理计算开销：提议、探测和组合多个 harness 会带来可观的额外 token 和环境交互（rollout）成本。
• 随机性与归因偏差：在缺乏 ground-truth 验证器的情况下，依赖行为对比有时仍可能导致带噪的信用分配，或者在执行方差较大时产生过于保守/限制性的修改。
• 库的膨胀与剪枝：该库按顺序保留组件；如何在极长的任务周期中剪枝过时的经验，或主动整合冲突的技能，仍是一个有待研究的开放领域。