AITOPAI热报

推理模型

共 1169 条相关 AI 资讯 · 查看话题观测
7月1日
09:52
09:52官方账号arXiv cs.LG@Johan Land
该论文针对ARC-AGI-2视觉推理基准提出一种新求解器，将文本、图像和代码作为独立搜索算子生成多样候选轨迹，并通过上下文保留的整体判断模型在长上下文提示中联合比较所有候选。在ARC Prize半私有评估集上取得72.9%准确率，成本38.99美元/任务，超过GPT-5.2 Pro的54.2%和Gemini 3 Pro的54.0%。在公开评估集上达到76.1%，成本19.69美元/任务。作者开源完整代码，并报告了负面结果，如规定性提示模板和迭代细化会系统性降低假设多样性。
论文ARC-AGI-2GPT-5.2 ProGemini 3 Pro
推荐理由：这篇论文的方法很实在，用多模态搜索加整体判断，在ARC-AGI-2上做到了72.9%，比GPT-5.2 Pro高了将近19个点，代码还开源了。
原文
09:40
09:40官方账号arXiv cs.LG@Zena Al-Khalili, Rafi Hakim, Dietrich Klakow, Ji-Ung Lee
Fork-Think提出一种新范式：先通过模型置信度在单条路径上识别分流点，再触发多分支采样并聚合。在三个模型和三个推理基准上，相比并行思考，Fork-Think节省了30%的token消耗和57%的推理时间，性能持平或更优。结合早停和加权投票后，无需预热即可达到现有最优方法。
AI模型Fork-Think推理模型推理效率
推荐理由：Fork-Think让LLM推理更省钱省时间——先找准关键点再思考，token少用30%，速度快57%，效果还不输并行方法。
原文
09:31
09:31官方一手arXiv: DeepSeek@Zhiqing Tang, Size Li, Hanshuai Cui, Zilan Huang, Jianxiong Guo, Tian Wang, Yuan Wu, Weijia Jia
DeepSeek-R1等大型推理模型通过长链思维（CoT）获得强性能，但边缘设备资源受限。现有基于置信度的早退方法从单请求角度固定阈值，忽略多请求并发和负载波动。提出LASER，包含负载感知自适应退出阈值和难度-负载感知推理预算预分配。在2个推理模型、4个基准、不同负载条件下，平均延迟降低17-38%，SLO满意度提升3-6%，准确率仅损失1%。
论文DeepSeek-R1LASER推理模型
推荐理由：想减少长链推理的延迟？LASER用负载感知早退，在边缘设备上平衡速度和准确率，值得一试！
原文
09:26
09:26官方一手arXiv: DeepSeek@Mohammad Alijanpour Shalmani, Alale Rezvani Boroujeni, Jiann Shiun Yuan
一项研究分析了六种开源模型家族（DeepSeek-R1、Gemma-2、Llama-3、Mistral、Phi-3、Qwen-2.5）在任务导向对话中面对数据库调用失败时的表现。基于MultiWOZ 2.2（5领域）和SGD（20领域）构建的故障注入基准显示，朴素智能体在30.5%（MultiWOZ）和20.9%（SGD）的失败轮次中产生幻觉。提出的Guided-Retry策略无需重新训练即可将MultiWOZ上的幻觉率从30.5%降至15.3%（降低50%），SGD上从20.9%降至12.2%（降低42%）。但各模型残差幻觉仍达6-37%，跨域失败最难处理。
论文DeepSeek-R1Gemma-2Llama-3
推荐理由：论文用实际数据告诉你，数据库出错时LLM会瞎编内容，但加个简单提示就能把幻觉砍掉一半。不用重训模型，看各家的差距有多大。
原文
09:22
09:22官方一手arXiv: DeepSeek@Zhe Dong, Fang Qin, Manish Shah
精选
论文提出LearnStop方法，在固定预算检查点从推理前缀预测正确性，使用答案置信度、熵、前缀投票份额等特征。在GSM8K、MATH-500、MMLU-Pro、AIME-90、GPQA等18个任务-模型设置上评估，涉及Qwen3和DeepSeek-R1蒸馏模型。在GSM8K上使用Qwen3-32B时，后验峰值自适应增益达+0.157，验证选择操作点保持正增益。在多项选择和极难设置上，标量置信度、熵或稳定性规则更具竞争力。结论：学习停止的价值取决于轨迹结构，当许多问题在预算结束前变正确但缺乏可靠标量停止信号时有用。
论文LearnStop推理模型GSM8K
推荐理由：这篇论文分析了推理模型什么时候该提前停止计算。LearnStop在数学题上比简单规则好，但难题还是用置信度更靠谱。
原文
08:52
08:14
08:12
05:45
05:45官方账号Simon Willison’s Weblog（博客/媒体）
Anthropic 发布了 Claude Sonnet 5，其性能接近 Opus 4.8 但价格更低。模型支持 1M 上下文窗口和 128K 输出 token，自适应思考默认开启。新 tokenizer 使英文文本 token 数增加约 30%，实际成本上升约 30%。定价保持 Sonnet 4.6 水平：$3/百万输入、$15/百万输出，8月31日前有折扣。
AI模型Claude Sonnet 5Anthropic推理模型
事件专题
推荐理由：Anthropic 刚发了 Sonnet 5，性能接近 Opus 4.8 但更便宜，不过新 tokenizer 会让你的账单多掏 30%，用之前先算好账。
原文
04:32
03:21
03:18
02:58
02:17
02:17官方账号NVIDIA AI@NVIDIAAI
Nemotron Labs发布了一项基于5000名Kaggle竞赛参与者数据的研究。他们分析了参与者的解题行为与推理策略。研究揭示了团队协作和多样化方法对提升AI推理效果的关键作用。这些经验可直接应用于现有模型的优化。
论文Nemotron LabsKaggleNVIDIA
事件专题
推荐理由：Nemotron Labs用5000个Kaggle实战案例总结了AI推理的改进方法，比看论文更接地气。
原文
6月30日
22:50
22:50官方账号阶跃星辰 Stepfun@Stepfun_AI
Step 3.7 Flash 本月在 OpenRouter 平台上处理了4.29万亿 tokens，进入该平台流量前十。开发者将其用于真实 agent 运行、编程任务和长上下文工作流。模型在处理复杂任务时表现稳定，获得社区积极反馈。
AI模型Step 3.7 FlashOpenRouter推理模型
推荐理由：Step 3.7 Flash 在 OpenRouter 上月流量超4万亿 tokens，开发者拿它跑智能体、写代码，又稳又快。
原文
16:51
16:51官方账号Decoder@Matthias Bastian
DeepSeek发布新框架DSpark，将每位用户的响应速度提升60%至85%。该框架使用小型模型生成候选token，再由大型模型批量验证。通过优化计算流程，DSpark能在更少芯片上榨取更多性能。这有助于减少中国对高端美国芯片的依赖。
AI模型DeepSeekDSpark推理模型
推荐理由：DeepSeek的DSpark用小型模型提候选token、大模型批量验证，让速度提升85%，还减少了芯片需求，挺实用的。
原文
14:34
13:53
13:53官方账号arXiv cs.AI@Subramanyam Sahoo, Aman Chadha, Vinija Jain, Divya Chaudhary
论文在Qwen3-14B策略上采用DPO，设置三个保守度β（低、中、高），并在在线适应中使用3×Qwen3-1.7B奖励集成。在GSM8K基准上测量准确率，发现更高保守度单调增加奖励黑客损伤，Goodhart gap及其曲线下面积AUGC的Spearman ρ=1.0。机制分析表明，高β DPO压缩策略熵，导致响应多样性降低，但集成分歧增加且被更快利用。论文进一步拟合幂律曲线，确定了平衡对齐保真度和漏洞的最优保守度β*。
论文Qwen3-14BDPOGSM8K
推荐理由：这篇论文用Qwen3-14B和DPO实验证明，离线训练越保守，在线适应越容易翻车，还在GSM8K上给出了最优保守度公式。做RLHF的值得一读。
原文
13:17
13:17Geek@geekbb
精选
Qwythos 9B 基于 Qwen3.5-9B，在 5 亿 token 的 Claude 思维链轨迹上全参数微调，可处理 1M 上下文。支持原生 Function Calling 和多模态视觉（图像+文本）。GGUF 量化后仅 5.2 GiB，可在低配设备上运行。该模型为开源且未经审查。
AI模型Qwythos 9BQwen3.5-9BClaude
推荐理由：Empero AI 开源的 Qwythos 9B 把 Qwen3.5 和 Claude 思维链结合，1M 上下文加 Function Calling，量化后 5.2GB 的推理模型，低配机器也能跑。
原文
12:49
12:49官方账号阶跃星辰 Stepfun@Stepfun_AI
Step 3.7 Flash 在 Nous Portal 上获得实际应用，用户正在用它测试、构建和运行各种智能体工作流。该项目由 Nous Research 合作推进，并保持免费访问。官方邀请用户试用并分享成果。
AI模型Step 3.7 FlashNous PortalNous Research
推荐理由：快去 Nous Portal 上免费试用 Step 3.7 Flash，用它搭建各种智能体工作流，体验它的实际效果。
原文
12:39
12:39官方一手arXiv: DeepSeek@Lei Bai, Zongsheng Cao, Yang Chen, Zhiyao Cui, Shangheng Du, Yue Fan, Shiyang Feng, Zijie Guo, Haonan He, Liang He, Xiaohan He, Shuyue Hu, Yusong Hu, Songtao Huang, Yichen Jiang, Hao Li, Xin Li, Dahua Lin, Weihao Lin, Fenghua Ling, Dongrui Liu, Zhuo Liu, Runmin Ma, Chunjiang Mu, Haoyang Peng, Tianshuo Peng, Jinxin Shi, Luohe Shi, Boyuan Sun, Zelin Tan, Shengji Tang, Qianyi Wang, Yiming Wu, Yi Xie, Xiangchao Yan, Jingqi Ye, Peng Ye, Fangchen Yu, Jiakang Yuan, Bihao Zhan, Bo Zhang, Chen Zhang, Shufei Zhang, Shuaiyu Zhang, Wenlong Zhang, Yiqun Zhang, Junpeng Zhao, Zhijie Zhong, Bowen Zhou, Yuhao Zhou
精选
Agents-A1是一个35B参数的Mixture-of-Experts智能体模型，通过扩展智能体视野（平均轨迹长度45K tokens）达到万亿参数级别性能。它在SEAL-0（56.4）、IFBench（80.6）、HiPhO（46.4）、FrontierScience-Olympiad（79.0）和MolBench-Bind（56.8）上超越了1T参数的Kimi-K2.6和DeepSeek-V4-pro，在SciCode（44.3）、HLE（47.6）和BrowseComp（75.5）上也具有竞争力。训练采用三阶段流程：全领域SFT、领域级教师模型、多教师领域路由在线蒸馏。
AI模型Agents-A135B智能体
推荐理由：35B的模型干翻万亿参数？Agents-A1用长视野扩展和智能体框架做到，基准全面领先，值得看看怎么训练的。
原文
12:27
12:27官方账号NVIDIA AI@NVIDIAAI
NVIDIA 宣布其 Nemotron 模型与 LangChain 集成，覆盖从推理到编排的智能体工作流。开发者可在开放栈上自定义、调优和部署模型。该集成面向生产环境，基于 LangChain 框架实现灵活编排。Nemotron 是 NVIDIA 的前沿智能体性能模型，支持多种部署方式。
AI产品NVIDIANemotronLangChain
事件专题
推荐理由：NVIDIA的Nemotron现在接入了LangChain，你可以按需调优和部署智能体，不受厂商锁定，适合做定制化AI代理。
原文
11:14
11:14官方账号arXiv cs.LG@Aaryam Sharma
推测解码利用快速起草器生成候选 token，再由大模型验证以加速推理。现有理论主要针对随机采样，而实用系统多用贪婪解码和松弛接受规则。本文提出一类具有拒绝区域的接受准则，并给出其精确 KL 散度下界，覆盖严格贪婪、加性和乘性松弛、top-(m) 以及熵阈值等情形。对于树形解码，推导出目标贪婪 token 仍被起草器 top-(m) 覆盖的充分条件。在 Qwen3 模型上的实验表明，松弛和树形准则显著扩大了可保证接受的区域。
论文Qwen3speculative decoding推理模型
推荐理由：这篇论文搞明白了推测解码里那些花式接受规则到底行不行，给出了数学保证，还在Qwen3上验证了，搞推理加速的值得一看。
原文
11:00
11:00IT之家（博客/媒体）
73°
美团今日发布LongCat-2.0，总参数1.6T，平均激活约48B，动态范围33B-56B，原生支持1M超长上下文。该模型在五万卡国产算力集群上完成全流程训练，预训练数据规模超30T tokens。其在SWE-bench Pro中得分59.5，领先Gemini 3.1 Pro（54.2）、GPT-5.5（58.6）和Claude Opus 4.6（57.3）；在SWE-bench Multilingual中取得77.3，接近Claude Opus 4.6。推理阶段采用LongCat Sparse Attention和零计算专家机制，实现token级动态激活，降低解码延迟。
AI模型LongCat-2.0美团MoE
事件专题
推荐理由：美团开源了LongCat-2.0，国产芯片跑万亿参数，编程和Agent能力很强，还支持百万上下文，值得上手试试。
原文
10:06
10:06官方账号arXiv cs.LG@Abhranil Chandra, Sankaran Vaidyanathan, Utsav Dhanuka, Varun Gandhi, Scott Niekum
HExA是一个无需训练的上下文学习框架，让LLM通过主动实验设计、迭代优化和技能库复用来解决新颖领域的长时任务。在Interphyre基准（基于PHYRE 2D物理环境）上，Claude Sonnet 4.6原本只有2%的成功率，而HExA将其提升至77%。HExA还优于ReAct和Reflexion等基线，并支持开源模型。仅使用从简单关卡学到的技能转移，HExA在新关卡上也能达到44%成功率，证明技能可复用。
论文HExAClaude Sonnet 4.6Interphyre
事件专题
推荐理由：Claude 4.6在困难物理任务上从2%蹿到77%，全靠HExA这个主动实验框架。不用复杂训练，自己试错学技能，还能跨任务迁移。
原文
03:06
6月29日
23:49
23:49官方账号阶跃星辰 Stepfun@Stepfun_AI
精选
StepFun 的 Step 3.7 Flash 模型在 Claw-Eval General 基准测试中取得第二名的成绩，该基准用于评估自主智能体。模型在多步执行和长程任务鲁棒性上表现强劲，排名仅次于 Claude Opus 4.6。这一结果显示其在真实世界智能体工作负载中的潜力。
AI模型Step 3.7 FlashClaw-Eval General智能体
推荐理由：StepFun 的 Step 3.7 Flash 在智能体基准 Claw-Eval General 排第二，仅次于 Claude Opus 4.6，多步执行和长程任务都强，感兴趣可以看看。
原文
16:27
15:41
15:38
14:55
13:51
13:49
13:49官方账号阶跃星辰 Stepfun@Stepfun_AI
精选
Step 3.7 Flash 是开源多模态推理模型，现已在 DeepInfra API 上线。该模型支持私有端点部署，适用于专用负载场景。它专为智能体编码、工具使用、搜索和视觉工作流设计。开发者可通过 DeepInfra 的 API 直接调用。
AI模型Step 3.7 FlashDeepInfra多模态
推荐理由：Step 3.7 Flash 开源多模态推理模型刚上线 DeepInfra，支持私有部署，适合智能体编程和视觉任务，开发者可以试试。
原文
13:49
13:49
13:49
13:49Ethan Mollick@emollick
Ethan Mollick 指出，所有模型路由器（model routers）在处理非数学/编程任务时，普遍低估任务难度并分配过少的智能资源。他建议，对于不可验证的任务（如创新、营销、定性分析），使用更智能的模型往往能带来更大收益。这一观点源于他对多种路由器实际表现的经验观察。
技巧model routers任务分配推理模型
推荐理由：Ethan Mollick 分享了一个容易被忽视的问题：模型路由器的任务分配不够智能，尤其对创意和分析类任务。如果你也发现一些任务结果不好，可能不是模型不行，是路由器给它派了太弱的模型。
原文
13:48
10:12
10:12官方账号arXiv cs.LG@David Steinmann, Antonia Wüst, Kristian Kersting, Wolfgang Stammer
COCOLogic-V2 是一个面向现实图像的对象中心数据集，覆盖一阶逻辑的广泛子集，用于视觉归纳推理评估。它将样本分为正变体、近边界和远边界负例三类，实现对模型可解释性的细粒度诊断。实验表明，模型能很好区分正样本和远边界负例，但在近边界负例上表现失败。此外，感知噪声和大规则搜索空间在少样本场景下构成额外挑战。该数据集为推进视觉归纳推理提供了具体基础。
论文COCOLogic-V2推理模型视觉理解
推荐理由：COCOLogic-V2 这个新数据集专测视觉推理，正反例分类特别细，模型在近边界上直接翻车，做可解释 AI 的可以看看。
原文
10:11
10:11官方账号arXiv cs.AI@Rajesh Jayaram, Drew Tyler, David Woodruff, Corinna Cortes, Yossi Matias, Vahab Mirrokni, Vincent Cohen-Addad
Paper Assistant Tool（PAT）是谷歌开发的智能体框架，用于深度科学评审，能检查理论结果、验证实验并提出改进建议。PAT利用推理缩放技术，在SPOT基准上对数学错误的零样本召回率提升了34%。该工具已在STOC和ICML两大计算机科学会议作为预提交工具试点，有效识别关键错误并减轻审稿人认知负担。
AI产品Paper Assistant ToolGoogle自动化评审
推荐理由：谷歌做了个叫PAT的工具，能帮你审论文抓数学错误，召回率比普通模型高34%，已在两大顶会试过了，实用。
原文
10:09
10:09官方账号arXiv cs.AI@Chenguang Wang, Ming Li, Xinyue Zeng, Zhuochun Li, Hong Jiao, Tianyi Zhou, Dawei Zhou
论文提出Epi2Diff（Episode to Difficulty）框架，将大型推理模型（LRM）的推理轨迹映射为认知片段序列，通过推理规模、努力分配和状态转换建模难度。在四个真实人类难度数据集上，Epi2Diff优于微调小语言模型、LLM上下文学习和监督LLM适应等基线。在SAT分类基准上，Epi2Diff相比监督LLM微调获得8.1%平均相对增益。分析发现更难的题目导致更费力、迭代、以实施为中心的片段动态，而非仅更长的回答。
论文Epi2DiffLRM推理模型
推荐理由：想用AI推理过程预测题目难度？这篇论文提出了Epi2Diff，从LRM的思考轨迹中提取片段特征，比直接微调模型效果好8%以上，而且可解释。
原文