Interleaved

general · 首次出现 2026-05-22 · 最近出现 2026-09-29 · 累计提及 15

综述

Interleaved(交错式)是当前大模型领域的一个重要技术路线,指在生成过程中将文本、图像、代码或推理步骤等多种模态与动作交替进行,而非一次输出单一模态或一口气完成全部推理。这一思路正在从早期的图文交错生成,扩展到强化学习训练、语音建模和编码 Agent 等多个方向,成为统一模型与高效推理研究中的关键词。

Interleaved 技术的近期进展

  • 商汤开源 SenseNova U1 图文交错增强版模型,支持多页连续创作:商汤开源了 SenseNova U1 的图文交错增强版本,主打多页连续创作能力。这类模型可以在一轮生成中交替输出文字与图像,向统一多模态模型(Unified Model)的形态靠拢,也是 Interleaved 路线在产品侧最直接的落地。
  • Learning Native Reflection in Unified Models with Interleaved Reinforcement Learning:该论文提出用交错式强化学习在统一模型中学习原生反思能力,将推理与生成交替训练,让模型在多模态统一框架内自发进行自我修正,代表了 Interleaved 从推理部署层向训练范式的延伸。
  • AIR: Adaptive Interleaved Reasoning with Code in MLLMs:来自 OpenAI 的工作 AIR 探讨多模态大模型中的自适应交错推理——让模型在推理链中按需穿插代码执行,而非始终先思考后作答,以降低过度思考(overthinking)带来的开销。
  • Interleaved Speech Language Models Latently Work In Text:这项研究显示语音语言模型在内部潜空间中实际上是"以文本方式工作",为理解 Interleaved 语音-文本模型的工作机制提供了新的解释视角。
  • 当前焦点与观察点

    Interleaved 路线当前的讨论焦点集中在"效率"与"统一"两个维度。效率方面,围绕是否应减少过度思考存在明显分歧:Kimi 开源的 K2.7-Code 在 K2.6 基础上针对编程 Agent 做专项优化,目标是长链路编码任务成功率更高、推理 token 更少;SiliconFlow 也以 "Better Coding with Less Overthinking" 为卖点。但独立开发者社区也有人持相反观点,认为 one-pass 能力强、能在较少思考下一次做对的模型才算真正的 SOTA——这实际上是对"交错推理 vs 深度长链推理"两种范式的路线之争。

    训练侧的信号同样值得关注:NVIDIA 发布的 Skill2Env 将社区公开的 3.4k 个 Agent Skills 编译成可执行的强化学习训练环境,说明环境构建本身正在成为 RL 训练的瓶颈与竞争点。观察点主要有三个:一是图文交错生成能否在消费级产品中形成可感知的用户体验差异;二是交错式 RL 训练(如原生反思)能否带来稳定的多模态推理增益;三是 coding Agent 领域"少思考"与"深推理"的市场验证结果,哪个路线会胜出仍待数据说话。

    相关报道

    9 条在档
    Interleaved · AI 话题观测|AI热报