Correctness(正确性)是衡量大语言模型输出是否与事实、任务要求或用户意图一致的核心评价指标,直接决定了模型在推理、编程、医疗等高风险场景中的可信度。随着模型能力提升,学界和工业界对“何为正确”的判定方式本身也在被重新审视。
Correctness 研究的近期进展
近期多项研究聚焦于正确性判定的可靠性与跨场景迁移问题。一项发表于 arXiv 的研究《可能的回答何时正确?LLM序列概率与正确性研究》指出,模型的序列概率并不能直接等同于答案的正确性,单个 token 或片段的低概率并不必然意味着整个回答错误,这挑战了长期以来依赖似然度衡量输出质量的做法。
另一项《Correct Choices, Failed Sequences: Choice2Seq Benchmarks Correctness Retention Across Output Interfaces》则提出新基准 Choice2Seq,测试模型在不同输出接口之间能否保留正确性——即使模型在选择题中做出了正确判断,生成的完整序列仍可能执行失败,暴露了正确性在不同形式间的“流失”现象。
在量化与效率方向,《等价性错觉:LLM量化效果的统计特征分析》分析了量化后模型输出的统计特征,提醒研究者不要被表面等价性迷惑:量化模型可能在部分任务上表现接近原模型,但在需要精细正确性的场景中存在隐性退化。
当前焦点与观察点
目前 Correctness 相关讨论集中在三个方向。其一是正确性的度量方式本身:从概率似然、选项匹配到序列级执行验证,不同判定标准的结论可能相互矛盾,如何统一评估口径仍是开放问题。
其二是语义正确性与不确定性的结合。《Uncertainty as a Proxy for Semantic Correctness in Diffusion-Based Medical Image Synthesis》探索在医学图像扩散合成中用模型的不确定性估计代理语义正确性,为缺乏明确标准答案的领域提供了新思路。
其三是工程实践中的正确性保障。密歇根大学的 AI 编程课程「Applied Agentic Software Engineering」将智能体式开发的方法论拆解为多个 Skills,反映了业界正把“输出是否正确”从单点评测转向流程化验证的趋势。未来值得关注的观察点包括:正确性判断与模型置信度的解耦、跨接口正确性保持机制,以及量化、路由(如 T-Router)等效率优化对正确性的长期影响。