事件专题 ·官方一手

TRUST 框架为递归自我改进加统计检验门槛

arXiv 论文提出 TRUST(Trustworthy Recursive Updates with Statistical Testing)框架,用于让 AI 智能体在不重训底层 LLM 的前提下通过修改自身 harness 实现可靠的递归自我改进。核心问题在于更新门控:贪心门控只看验证集分数提升就接受更新,实验中 45.59% 的被接受更新实际是劣化更新,导致性能退化。 TRUST 的机制是把在线多重假设检验流程移植到进化轮次中,控制跨轮次的虚假进化率,并由 LLM 分析历史上下文来决定接受一次更新需要多少证据。论文在可解释的假设下证明了 TRUST 能限制被接受更新中造成不可接受性能损失的比例,并推导出最终性能增益的下界。 在 HotpotQA、DROP、APPS 三个基准上,使用 DeepSeek-V4-Flash 和 Qwen-3.8-Flash 两个模型,TRUST 把劣化更新接受比例从贪心门控的 45.59% 降到 2.78%,最终分数也高于现有的统计门控基线。

当前结论

智能体改自己的代码时最怕把噪声当进步,贪心门控近一半更新其实是在变差。这篇论文用在线假设检验把劣化率压到 2.78%,还给了性能增益下界证明。做自进化智能体框架的开发者值得把这套门控思路搬过去。

2 个信源41° AI 热度最后更新 2026/11/7 15:12:01

证据链

2 个信源

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。