18:05AK@_akhaliq论文提出 BDH-CQ 方法,将循环潜在推理引入上下文学习。该方法通过循环状态迭代更新潜在表示,以支持少样本推理场景。论文全文已发布在 Hugging Face 平台。研究目标是提升模型在 In-Context Learning 中的推理表现。论文BDH-CQ上下文学习循环潜在推理推荐理由:BDH-CQ 这篇新论文把循环潜在推理用到上下文学习里,想看看它怎么提升少样本推理,可以读读。原文稍后读已读值得跟进有用关注 BDH-CQ
11:51官方账号arXiv cs.AI@Björn Engdahl, Adrian Kosowski, Jan Chorowski, Zuzanna Stamirowska, Przemysław Uznański, Junlin Jiang, Rohan Phadke, Remigiusz Kinas, Richard ZhongBDH-CQ 是一种结合上下文学习与循环潜在推理的推理模型,推理时输入持续更新模型记忆,并在高维潜在空间迭代计算,不输出中间推理过程。在 ARC-AGI-1 公开评测集上,150M 参数配置达到 29.5% pass@2,单任务推理成本仅 0.0007 美元。该结果突破了 ARC-AGI-1 此前报告的成本-准确率帕累托前沿,树立了新的基准成本效率标杆。研究还通过受控 ARC 干预实验,分析了模型从演示中学习的内容、应用推断变换的一致性及难点概念。论文BDH-CQARC-AGI-1推理模型推荐理由:这个模型用循环潜在推理做上下文学习,150M 参数在 ARC-AGI-1 上花 0.0007 美元就拿到 29.5% 的 pass@2,性价比直接刷新纪录,值得看看它怎么做到的。原文稍后读已读值得跟进有用关注 BDH-CQ