Reliability-Aware（可靠性感知）指 AI 系统在推理或决策时显式评估输入、模型输出或工具结果的可信程度，并据此调整行为的一类方法。它不是单一模型，而是一种设计思路，目前广泛出现在 3D 重建、智能体工具检索、多模态对齐、临床分诊等方向，核心目标是让模型知道“什么时候该信、什么时候该存疑”。
Reliability-Aware 近期进展
当前焦点与观察点
从近期论文分布看，Reliability-Aware 研究呈现三个趋势。其一，评估对象从模型输出扩展到输入端：图像质量、视频噪声、临床证据完整度等都被纳入可靠性建模，而不是只在最终答案上打分。其二，与智能体（Agent）结合明显加深，工具检索与执行动态成为新的切入点，说明社区意识到智能体系统的可靠性瓶颈往往在中间环节。其三，高风险应用（临床、安全）是主要落地场景，这些场景中“知道何时放弃作答”比单纯提升准确率更有价值。
值得观察的问题包括：可靠性信号如何标准化度量（目前各论文自定义指标，难以横向比较）；可靠性估计本身的误差是否会引入新的失败模式；以及该思路能否从论文中的特定任务泛化为通用框架。短期内，围绕多模态幻觉抑制与智能体工具调用的可靠性感知方法预计仍会是讨论热度较高的方向。