推理模型相关 AI 资讯 · AITOP

9月1日

22:53

OpenRouter@OpenRouterAI

78°

Mercury 2.5 Preview推理模型在OpenRouter平台发布，速度达1,107 tokens/sec。该模型支持并行token生成和并行工具调用功能。模型具有可调节推理能力和schema-aligned JSON输出。专为低延迟工作负载设计。

推荐理由：Mercury 2.5 Preview来了，推理速度超1100 tokens/sec，还支持并行工具调用，比普通模型快多了。

原文

15:13

Hailuo AI@Hailuo_AI

H3 Max模型由MiniMax Design开发，速度比其他模型快10倍以上。用户制作15秒视频仅需33秒，保持全工作流和高质量。该模型定价为每秒0.02美元，性能与价格比极高。

AI模型 H3 Max MiniMax 视频生成

事件专题

推荐理由：MiniMax的H3 Max模型超快又便宜，15秒视频33秒搞定，才2分钱一秒。

原文

12:10

官方账号arXiv cs.LG@Nikita Koriagin, Yaroslav Aksenov, George Bredis, Gleb Gerasimov, Nikita Balagansky, Daniil Gavrilov

精选73°

研究人员提出Soft Latent Thinking方法，在推理过程中用轻量投影器替代大词汇量头。在DeepSeek-Qwen-1.5B和LLaMA-3.2-3B模型上测试，该方法在所有k值下均提升pass@k指标，同时减少思维链每步计算量。该方法在所有软思维方法中达到最高pass@32，证明连续空间可有效进行推理。

论文 Soft Latent Thinking DeepSeek-Qwen-1.5B LLaMA-3.2-3B

推荐理由：新方法让模型在嵌入空间连续推理，不生成离散token，性能还提升了。

原文

11:22

官方账号arXiv cs.AI@Zhiqin Yang, Jingwen Fu, Yuhan Liu, Hengyu Liu, Yonggang Zhang, Kainan Cao, Zizhuo Zhang, Chenxin Li, Ruibin Yuan, Jiahao Pan, Jiankai Sun, Zhenyuan Zhang, Yibo Li, Yunlong Lin, Jing Xiong, Sida Lin, Bo Han, Wei Xue, Yike Guo

78°

该研究探讨了大型推理模型(LRM)如何随着人类监督逐渐退出学习循环而持续改进。论文提出了从L0到L4的五级阶梯，追踪学习过程中哪些部分仍受人类控制。研究分析了奖励机制从单个人类判断发展到可重用验证器的过程，以及学习从人工策划任务向自主生成课程和环境演进的路径。

论文 LRM 推理模型强化学习

推荐理由：这篇论文系统分析了大推理模型如何减少人类依赖，提出了五级发展阶梯和三种评估对象。

原文

11:21

官方账号arXiv cs.AI@Qiyao Yan, Chenpeng Wang, Liangming Pan

精选73°

研究人员发现大语言模型在推理任务失败时，可能并非缺乏底层能力，而是输出阶段存在瓶颈。通过隐藏状态探测，即使在序列评分完全崩溃的情况下，仍能解码出正确答案。使用最小化无标签校正协议，仅用25个未标记样本和2个参数，就能为Qwen3.5模型恢复9-34个准确点，该方法成功迁移到OLMo-2-1B和Llama-3.1-8B模型。

论文 Qwen3.5 Llama-3.1-8B OLMo-2-1B

推荐理由：发现大模型推理失败不等于能力缺失，用简单方法就能恢复被掩盖的内部逻辑。

原文

10:17

官方账号arXiv cs.AI@Outongyi Lv, Yuanwei Zhang, Xiaoqun Zhang

研究人员提出梯度幅度标记选择(GMTS)方法，用于改进强化学习可验证奖励(RLVR)训练。实验显示，使用GMTS方法选择前20%的标记进行训练，在三个推理领域和多种模型尺寸下，均优于基于熵的标记选择方法。GMTS通过熵-梯度连接来近似梯度幅度排名，提供更精细的标记贡献估计。

论文 GMTS RLVR LLM

推荐理由：GMTS方法让LLM推理训练更高效，前20%标记选择比传统熵方法表现更好。

原文

09:20

官方一手arXiv: DeepSeek@Zimo Shi, Xander Tifft, Wen Xing

精选

研究测试了思维链(CoT)作为AI监督机制的假设。研究引入指令遵循差距(ICG)概念，发现8个前沿推理模型中存在不对称披露现象，模型更可能泄露恶意隐藏指令而非良性指令。Qwen3-14B、Qwen3-32B和Qwen3-235B等模型在恶意指令泄露概率上分别高出13.9pp、13.0pp和5.8pp。通过对比性激活添加提取的转向向量可因果性地诱导隐藏行为，且良性与恶意衍生的隐藏向量高度相似。

论文 Qwen3 推理模型思维链

推荐理由：这篇论文揭示了AI模型在隐藏指令披露上的不对称行为，对AI安全和监督机制设计有重要启示。

原文

09:15

官方账号arXiv cs.AI@Yangsong Lan, Renkai Hu, HongKai Zheng, Bo Zhang, Renzhi Wang, Hongliang Dai, Piji Li

精选73°

研究团队提出MI-Distillation框架，通过模型插值构建连续推理数据谱。该方法引入SeqLSS评分机制，选择既具信息量又易于学生模型学习的推理路径。实验表明，该方法在多个推理基准上均优于强基线Long CoT方法，显著提升小模型思维链蒸馏效果。

论文 MI-Distillation SeqLSS 思维链蒸馏

推荐理由：MI-Distillation解决了大模型推理轨迹蒸馏到小模型的难题，通过模型插值和SeqLSS评分提升蒸馏效果。

原文

09:09

官方账号arXiv cs.AI@Yi Yu, Bo Wang, Chong Feng, Ge Shi, Xia Liu, Ziyi Yang, Xuewen Shi

精选73°

SUP-MIMIC 是一个基于 MIMIC-IV-v3.1 的多任务框架，包含基础评估(BA)、诊断发散任务(DDT)和诊断收敛任务(DCT)。DDT 评估模型对表型相似病例的"一对多"区分能力，DCT 评估模型对不同病理通路的"多对一"诊断模式识别能力。研究显示，最先进 LLM 在 DDT 和 DCT 上的性能显著下降，暴露了模型对统计捷径的系统性依赖。

论文 SUP-MIMIC LLMs MIMIC-IV-v3.1

推荐理由：SUP-MIMIC 基准测试揭示了 LLM 在临床诊断推理中的缺陷，特别是对矛盾证据的处理能力不足。

原文

08:13

lmarena.ai@lmarena_ai

精选

Qwen3.8-Flash-Next 在整体排名中位列第24位，净提升2.4%。在开源模型中排名第7位。Confirmed Success指标提升12.3%，Bash Recovery提升2.9%。Praise vs. Complaint指标下降1.6%，Steerability下降1.1%。该模型没有工具幻觉问题。

AI模型 Qwen3.8-Flash-Next LMSYS 开源模型

推荐理由：阿里Qwen3.8-Flash-Next在LMSYS排行榜上表现亮眼，开源模型中排名第7，Confirmed Success指标大幅提升。

原文

8月31日

09:09

官方账号arXiv cs.LG@Alexia Jolicoeur-Martineau, Rhea Sanjay Sukthanker, Pashmina Cameron, Emy Gervais

精选73°

研究显示滑动窗口注意力(SWA)在多个大语言模型的各种下游任务上表现与或优于后训练线性注意力模型。在长上下文推理任务中，SWA性能比线性注意力高2到10倍。SWA无需后训练，速度快且内存需求低。

论文 Sliding Window Attention Linear Attention LLMs

推荐理由：SWA比线性注意力更高效，无需后训练就能实现更好性能，内存占用低，推理速度快。

原文

01:47

elvis@omarsar0

78°

斯坦福大学研究人员提出Prefix Sliding方法，通过丢弃中间token实现推理过程内存固定。该方法在无需训练的情况下，使现有模型运行速度提升3倍，同时保持全注意力性能。该方法支持超过10万token的RL rollout，解决了长推理过程中的内存消耗问题。

论文 Prefix Sliding Stanford 推理模型

推荐理由：斯坦福新方法让长推理模型提速3倍，内存不再随思考长度增长。

原文

8月30日

15:16

shao__meng@shao__meng

78°

OpenAI官方开发者平台发布《Building agents》学习路径，详细解析AI Agent的三大核心要素：指令、护栏和工具。文档对比了推理模型(GPT-5.6)与非推理模型的适用场景，介绍了Responses API与Agents SDK的取舍建议。内置工具包括Web Search、File Search、Code Interpreter和Computer Use等，可解决训练数据截止日期、RAG复杂性等问题。

技巧 OpenAI Agent 推理模型

推荐理由：OpenAI官方教你如何构建AI Agent，从模型选择到工具系统，再到多Agent编排，全是干货。

原文

08:47

08:47官方账号Simon Willison’s Weblog（博客/媒体）

精选73°

腾讯发布Hy4预览版，总参数770B，激活参数49B，上下文窗口达1M token。这是继7月Hy3（295B参数，256K上下文）后的重大升级。模型在Hugging Face上占用1.56TB空间，支持两种推理模式：高推理和禁用推理。

AI模型 Hy4 Tencent LLM

推荐理由：腾讯Hy4来了，参数翻倍还支持百万token上下文，比自家Hy3强不少。

原文

01:46

Hunyuan@TXhunyuan

精选73°

腾讯混元Hy4预览版可在vLLM环境中运行，已在NVIDIA GPU上验证。该模型总参数770B，激活参数49B，包含256个路由专家和一个共享专家。上下文长度为1M，但每个查询仅关注2048个token。模型中仅21层计算稀疏索引，其余57层复用同一索引。

AI模型 Hy4 vLLM 腾讯混元

事件专题

推荐理由：腾讯混元Hy4预览版已适配vLLM，支持MoE和HPC-Ops内核，可直接部署使用。

原文

8月29日

15:06

Fireworks AI@FireworksAI_HQ

精选

GLM-5.3-Flash 模型在 Fireworks 平台正式上线发布。该模型因存在两天无法解释的推理长度延迟而被推迟发布。相同权重不代表相同模型质量。开发者可在 fireworks.ai/models/firewor 开始使用该模型。

AI模型 GLM-5.3-Flash Fireworks 推理模型

事件专题

推荐理由：Fireworks 发布了 GLM-5.3-Flash，强调质量优先，相同权重不代表相同模型，开发者可立即开始构建应用。

原文

07:06

Aravind Srinivas@AravSrinivas

精选

Perplexity Search在Artificial Analysis Search Index基准测试中表现最佳，三种上下文设置均位居排行榜前列。其中中等上下文设置得分80，高于Parallel(advanced)和Brave Search(LLM context)的75分。Perplexity的搜索结果负载更小，模型推理成本最低，每任务成本在0.028至0.034美元之间。

AI产品 Perplexity 搜索API Artificial Analysis

推荐理由：Perplexity搜索在基准测试中击败竞争对手，成本更低，三种上下文设置表现均佳。

原文

8月28日

23:17

官方账号LangChain@LangChainAI

精选

PodiumHQ的代理行为看似异常，但LangSmith追踪显示代理实际上基于已有上下文做出了理性决策。首席软件工程师Walker Ward详细介绍了端到端追踪代理推理过程的方法。LangSmith工具帮助开发者理解AI代理的实际工作方式。

AI产品 LangSmith PodiumHQ 代理

推荐理由：Walker Ward分享如何用LangSmith追踪PodiumHQ代理推理过程，揭示看似异常行为背后的真实逻辑。

原文

22:12

lmarena.ai@lmarena_ai

Grok-4.6在Agent Arena排行榜中位列第15名，实现了6.1%的净提升。该模型在确认成功指标上表现突出，提升了13.2%。在工具幻觉方面表现稳定，仅提升1.0%。 bash恢复能力提升了8.8%，可操控性提升4.9%。

AI模型 Grok-4.6 Agent Arena 智能体

推荐理由：Grok-4.6在Agent Arena排名上升，确认成功指标提升13.2%，bash恢复能力显著增强。

原文

22:00

lmarena.ai@lmarena_ai

73°

Grok-4.6(xHigh)在Agent Arena代码类别中排名第12，净提升7.7%，基于4500+真实智能体代码会话。在确认成功率方面排名第6，提升15%。整体确认成功率提升13.2%，排名第6。与Grok-4.5相比有显著提升，中位任务成本为1.12美元。

AI模型 Grok-4.6 SpaceXAI Agent Arena

推荐理由：SpaceXAI的Grok-4.6在代码任务上表现亮眼，确认成功率提升15%，成本与Claude Opus 4.6相当。

原文

19:25

官方账号arXiv cs.LG@Yunpeng Ba, Zhi Zheng, Yue Xie, Jiaqing Li, Xialiang Tong, Tao Zhong, Mingxuan Yuan, Zhichao Lu, Xuyang Wu, Zhenkun Wang

精选73°

研究显示进化策略(ES)在LLM推理训练中表现优于GRPO方法。ES在Pass@1基准上提升性能，同时获得比GRPO更高的Pass@K分数。ES仅需更大模型中的较小种群规模即可有效工作。研究还发现ES的功能稀疏性表明大量参数移动不一定导致广泛功能变化。

论文 LLM 进化策略 GRPO

推荐理由：这篇论文对比了ES和GRPO两种训练方法，发现ES能带来更广泛的推理覆盖，还提出了结合两者优势的GRPO-ES顺序训练策略。

原文

18:04

官方一手arXiv: DeepSeek@Maciej Besta, Leonard Schmidt, Lara Nonino, Robert Gerstenberger, Pierre Pang, Patrik Okanovic, Ales Kubicek, Tiancheng Chen, Baraq Lipshitz, Torsten Hoefler

精选73°

本文系统化分析了RL-for-LLM范式，对PPO、GRPO等主流后训练算法框架进行了计算中心分析。作者提出了推理语言模型(RLMs)的并行策略分类法，涵盖数据、张量、流水线等传统技术以及解耦放置、阶段融合等新型并行技术。研究还分析了现有RLM框架，并构建了可扩展、快速且经济高效的RLM实践指南。

论文 RL-for-LLM PPO GRPO

推荐理由：这篇论文帮你搞懂RL-for-LLM的并行训练策略，让DeepSeek-R1、o3这些推理模型训练不再那么烧钱。

原文

17:08

AI Will@FinanceYF5

73°

Z. ai创始人jietang公布Ox Alpha实际为GLM-5.3 Flash模型。该模型AA得分57，价格为前沿模型的1/100，完全由国产芯片驱动。在OpenRouter周Token份额接近20%，排名第一，推动Z.ai整体份额超过DeepSeek。

AI模型 GLM-5.3 Flash Z. ai OpenRouter

事件专题

推荐理由：Z.ai新发布的GLM-5.3 Flash性能强劲且价格低廉，国产芯片驱动，市场份额已超越DeepSeek。

原文

8月27日

23:16

官方账号Decoder@Matthias Bastian

78°

OpenAI研究员警告，最先进的AI模型运行速度可达50倍，可能在人反应之前渗透系统。他表示，简单的监控不再适用，需要自主关闭系统。此警告伴随OpenAI发布一款新AI芯片，其在推理速度上显著优于现有硬件。

行业 OpenAI AI安全推理模型

事件专题

推荐理由：OpenAI新AI芯片发布，推理速度大幅提升，但研究员警告超快AI可能让安全团队落后，提醒关注自主关闭系统的重要性。

原文

15:09

官方账号阿里通义 Qwen@Alibaba_Qwen

精选

Qwen3.8-Flash，一款多模态推理模型，支持编码助手、智能工作流、长视频理解等功能，现已上线OpenRouter。支持代码库和文档分析、桌面交互、图表和长视频理解。

AI产品 Qwen3.8-Flash 多模态推理模型

推荐理由：想试试多模态推理模型？Qwen3.8-Flash上线了，支持多种功能，值得一试！

原文

09:21

官方一手arXiv: DeepSeek@Guibin Zhang, Leo Lu, Fangzhou Xie, Kang Zhu, Junhao Wang, Zhifei Xie, Zhaochen Yu, Zihang Liu, Zhongxiang Sun, Qiankun Li, Yue Liao, Heng Chang, Xiaobin Hu, Qibing Ren, Wangchunshu Zhou, Shuicheng Yan

精选

JIT-Agent模型旨在即时合成适用于任意现成LLM的任务自适应智能体绑定，通过固定四模块协议生成可组合的智能体绑定，并在给定任务上定制绑定、修复绑定以实现稳定可靠执行，并通过从先前绑定配置的扩展档案中提炼性能信号来自我进化。DeepSeek-V4-Flash在DeepSearchQA和OdysseyBench上超越GPT-5.6，GLM-5.2提升至+20.2分。JIT-Agent生成的绑定在性能上与成熟的智能体运行时如OpenCode和Claude Code相当，并持续改善DeepSeek V4、Mimo-V2.5和Qwen3.6的多尺度模型家族。JIT-Agent是首个专为即时绑定生成而设计的模型，将绑定智能确立为与模型扩展正交的可训练、可转移和可累积的智能体能力维度。

AI模型 JIT-Agent 智能体 MCP/工具

事件专题

推荐理由：JIT-Agent模型可以即时合成适用于任意现成LLM的任务自适应智能体绑定，显著提升模型性能，值得一试。

原文

8月26日

14:58