#HELMET

共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「HELMET」标签的资讯、产品与论文,按刊登时间排,新的在上。
11月10日
微软研究:不改训练,靠 harness 让 Llama3-8B 长上下文平均提升 64.18 分

微软这篇论文挺反直觉的:不训练模型,光靠 GPT-5.6-Sol 写的 harness 就让 Llama3-8B 在 HELMET、RULER 上多拿 64.18 分,还超过 NExtLong 这类靠数据训练的方案,成本不到一半。做小模型长上下文优化的开发者应该先看看这个思路。

elvis@omarsar0原文