翁荔（Lilian Weng）长文：Harness Engineering for Self-Improvement

文章聚焦于 Harness Engineering 的相关研究，以及它如何推动递归自我改进（RSI）。

Harness 设计模式

与早期的 agent 框架相比，“agent = LLM + 记忆 + 工具 + 规划 + 行动”这一模式中，Harness Engineering 还额外包含了工作流设计（例如循环工程）、评估、权限控制以及持久化状态管理。它不再仅仅是提示模板，而是更接近于运行时和软件系统设计：模型如何观察、行动、记忆、自我检查并持续改进。

模式一：工作流自动化

定义一个让模型能够运行、测试和迭代的工作流程，是实现自动化的关键设计。

模式二：将文件系统作为持久化记忆

工作流不应将整个流程及所有日志都塞入上下文，而应将持久化状态保存在文件中。

模式三：子 agent 与后台任务

一个控制框架可以生成多个子 agent 并行执行任务，并监控后台作业。当主 agent 需要同时探索多个假设、并发运行实验，或在不污染主上下文的前提下委派独立子任务时，这一机制尤为实用。

---

Harness 层 vs 核心智能？

很难预测未来 RSI 在多大程度上依赖harness engineering，但 RSI 的近期路径不太可能始于模型直接重写自身权重。翁荔对近期可行路径的预测是：

1.Harness engineering 将朝着元方法论的方向演进（即改进获取更优答案的机制，而非仅仅优化答案本身）。harness 系统本身将成为优化目标，减少启发式规则，增加通用机制。

2.成熟的框架反过来能够支持模型的自我改进循环自动化研究，而更智能的模型则能防止框架过度工程化，确保系统的可持续性。

最终，许多 harness 改进可能会内化为模型的核心行为，但与外部环境和工具的接口仍应保留。我们在提示工程中已看到这种模式的温和版本：随着指令调优和模型推理能力的提升，手动提示技巧的重要性逐渐降低，但设定目标、约束条件、上下文和评估的需求并未消失。

---

Harness 优化

Harness 系统中被优化对象的演进大致为：指令提示词 → 结构化上下文 → 工作流 → Harness 代码 → 优化器代码。随着模型愈发智能强大，我们逐步转向更复杂的目标与更通用的方法。

---

后面还有很长的 Harness 优化与 RSI 挑战相关的论述，过于专业，建议去看原文，不再摘抄。

链接：lilianweng.github.io/posts/2026-07-04-harness