FIRE 框架解决 LLM 自蒸馏训练中的性能崩塌问题
这篇论文讲的是让 LLM 从自身输出学习时怎么防止训练崩掉，用 Fisher 信息来控制每一步调整多远，做训练优化的可以看看。
#FIRE
共 2 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「FIRE」标签的资讯、产品与论文，按刊登时间排，新的在上。
9月29日
9月23日
FIRE 运行时策略让 Agent 重复成功率最高提升 9.2 个百分点
一篇很实用的论文：不改模型、不改提示词，只在运行时注入失败 informed 的策略指令，GPT-5.6 跑 Terminal-Bench 的重复成功率就能涨近 10 个点，做 Agent 的可以看看。