AITOPAI热报

dair.ai

共 5 条相关 AI 资讯
7月19日
05:54
05:54elvis@omarsar0
精选
ProofAgent-Harness 是一个开源评估基础设施，通过多陪审员共识对 Agent 上下文进行七维评分，涵盖角色清晰度、护栏覆盖、指令一致性、工具模式质量、基础充分性、注入防护和令牌效率。实验表明，基础充分性分数预测幻觉抵抗能力，护栏覆盖分数预测操纵抵抗能力，工具模式质量分数预测工具使用准确性。该工具将上下文评分与行为指标和发布决策分离，独立作为 Agent 可靠性的领先指标。论文发布于 arxiv.org/abs/2607.14275。
AI模型ProofAgent-Harnessdair.aiAgent可靠性
推荐理由：dair.ai 团队搞了个开源工具 ProofAgent-Harness，能给你的 Agent 上下文质量打分，提前知道它会不会幻觉、被攻击或乱用工具，比光看行为测试靠谱多了。
原文
7月3日
01:39
6月27日
11:46
6月10日
04:48
04:48elvis@omarsar0
72°
一项新研究提出“Self-Harness”概念，让智能体脚手架（包括提示、工具和控制流）能够像技能一样从自身运行中学习并改进，而非固定不变。传统脚手架一旦构建便冻结，需要手动维护，而Self-Harness将其变为可学习的工件，每次运行都能自我优化。论文认为，对于长周期智能体，这种自修改脚手架能将维护工作自动化，使系统性能持续累积。该工作由dair.ai团队发布，论文已在arXiv上公开。
论文智能体脚手架/工具自我改进
推荐理由：做长周期智能体开发的团队终于不用手动维护脚手架了——Self-Harness让系统自己优化提示和工具流，运行越久越强，建议点开论文看看具体实现。
原文
6月5日
00:48