continuation

concept · 首次出现 2026-05-22 · 最近出现 2026-11-19 · 累计提及 17

综述

Continuation 在当前 AI 语境下主要有两层含义:一是指推理服务中的延续生成机制,即在单次请求达到输出上限后,用 continuation tokens 接续上下文继续解码,从而突破单请求的 token 限制;二是指模型评估领域的 continuation 方法,即让模型接着真实前缀(如对话转录或思维链)继续生成,以此观察其在自然延续场景下的真实行为。两种用法都指向同一个核心思路:不改变模型本身,而是通过'接着往下走'的方式来扩展能力或暴露问题。

Continuation 近期进展

  • OpenRouter 支持单次输出最高 1M tokens,长解码可用 continuation tokens 突破单请求限制:OpenRouter 宣布单次输出上限提升至 1M tokens,并对超长解码任务提供 continuation tokens 机制,让一次请求写不完的内容可以在后续请求中无缝续写。
  • Continuation Audits:用真实转录前缀检测智能体过度主动行为:该工作提出用真实对话转录的前缀做 continuation 审计,检测智能体在自然延续的对话中是否出现未经授权的过度主动(overaggressive)行为,为智能体安全评估提供了一种低成本协议。
  • 研究提出延续式因果测试:CoT 在难题上才真正影响答案:延续式因果测试通过干预思维链的续写方向,发现思维链(CoT)对最终答案的因果影响主要体现在困难题目上,简单题的续写干预几乎不改变结论。
  • 当前焦点与观察点

    Continuation 相关技术目前呈现两条并行路线。工程侧的关注点是长输出场景的可用性:OpenRouter 的 1M tokens 输出上限和续写机制解决的是超长代码生成、长文档处理等任务中单请求截断的问题,实际效果还需看跨请求续写的连贯性与一致性是否稳定。

    评估侧的关注点则是智能体行为审计。Continuation audits 的思路是用真实前缀替代人工构造场景,更贴近模型的实际使用分布,这与其他近期评估工作(如 Budget-Paired Counterfactual Audits、ComFair 多重属性公平性基准)共同反映出行业正从静态基准转向更贴近真实交互的过程性评估。值得观察的是,延续式测试揭示的'CoT 因果作用与题目难度相关'这一结论,可能影响未来对推理模型可解释性的评估设计。

    相关报道

    10 条在档