拓冰建站拓冰建站
首页 / 资讯中心 / 正文

HarnessEvolve:从参考轨迹中学习以实现可靠的智能体自进化

26年9月来自华为上海ICT的论文“HarnessEvolve: Learning from Reference Trajectories for Reliable Agent Self-Evolution”。HarnessEvolve 让智能体通过“正确参考轨迹 → 错误定位 → 错误聚类 → 修改整个 Harness → 双重 Gate 验证”的闭环,可靠地自我改进。这篇文章不只是提出一个新的优化算法,而是把 Agent Self-Evolution 重新表述成 Harness Self-Evolution 的系统工程问题。1. 论文到底要解决什么问题?作者首先给出了一个很重要的观点:智能体真正需要优化的对象,并不只是 LLM 本身,而是包围 LLM 的 Harness。论文中的 Harness 包括:Harness = Prompts + Skills + Tools + Execution Logic也就是说:Agent = FrozenLLM + Evolving Harness Agent = Frozen\ LLM + Evolving\ Harness论文实验中甚至保持底层 LLM frozen,通过修改 Harness 来提升整个 Agent 的能力。其目标是在人类不直接干预的情况下,迭代优化 prompts、skills、tools 和 execution logic。2. 为什么现有 Self-Evolving Agent 不可靠?论文把问题非常清楚地归纳为三个核心困难。① Credit Assignment Failure:信用分配失败Agent 做一个长任务,可能经历:a1→a2→a3→⋯→a20最终答案错误。问题是:到底是哪一步错了?很多系统只能得到最终:Success / Failure 这样的 binary reward。于是 Agent 很难判断:是工具选择错了?参数错了?Planning 错了?某个 observation 理解错了?还是最后一步错了?作者指出,后面的错误经常只是前面错误产生的 cascading effects,因此简单地对整个失败 trajectory 做 reflection,很容易找错真正的 root cause。② Shortcut Learning:捷径学习Agent 在优化 Harness 时可能“作弊”。比如训练题:What is X? 正确答案:37。优化器发现自己总是做错,于是把下面内容塞进 prompt: If question is X, answer 37。训练 accuracy 立即上升。但 Agent 并没有真正学会能力。论文特别指出两类 shortcut:Data leakage 以及 Prompt bloat,即不断往 prompt 里面塞训练样例。③ Catastrophic Forgetting:灾难性遗忘
分享:

看完干货,该让你的企业上线了

免费需求沟通 · 48 小时内出具建站方案 · 河南本地可上门