decoding（解码）是大语言模型生成文本时的核心环节，指模型在每一步从概率分布中选择下一个 token 的过程，其策略直接决定生成质量与速度。随着大模型应用规模化，围绕解码的研究正从简单的贪心或采样策略，分化出加速、约束、安全等多个方向，成为当前推理优化的热点领域。
解码技术的近期进展
当前焦点与观察点
从近期动态看，decoding 相关工作呈现出几条清晰主线。其一是投机解码持续升温：Hugging Face 与 vLLM 先后直播讲解投机解码，说明这一加速技术正从学术研究走向开发者日常实践，草稿模型训练、安全防护等配套问题也随之被提出。
其二是约束解码成为垂直场景的新选项。ScaleDown 的 CDM 系列主打为单一任务设计，用约束解码换取极致速度，这对边缘部署和确定性输出场景有吸引力，但其宣称的性能倍数与通用能力上限仍需第三方验证。
其三是解码策略与推理质量的结合，如对比解码、Nash decoding 等博弈论方法被用于改写文本生成过程，表明解码不再只是速度问题，也被视为影响模型可靠性和推理行为的杠杆。后续值得关注的观察点包括：投机解码在训练管线中的落地效果、约束解码模型与通用 LLM 的成本对比，以及解码层安全问题的标准化防护方案。