用黑盒 API 就能把模型的不确定性拆成"提示有歧义"和"模型真不会"两部分,之前只有白盒方法做得到。在 5 个 QA 基准、4 个 LLM 上验证,还能扩展到 claim 级事实核查。做 RAG 或幻觉检测的工程团队值得看。
#不确定性量化
脑卒中诊断要同时看CT和MRI,这项工作把不确定性建模和病灶定位绑在一起做,输出会附带可信度。做医学影像AI或临床落地的团队可以看看它的思路,跟单纯输出分类结果的方法比多了定位能力。
做时空预测或环境传感数据分析的人可以看看这篇。标准 Neural Processes 假设输入干净,DnNP 用变分推理把传感器噪声直接建进模型,PM2.5 插值上 RMSE 降 30%、NLL 降 73%,还给了理论保证,比简单加平滑滤波更有依据。
做医学影像或不确定性建模的值得看:作者把条件熵加进 EDL 正则项,在 RIM-ONE-DL 等数据集上校准误差比 MC Dropout 和 Deep Ensembles 都低,还能用 Grad-CAM 看模型是否盯错了视盘。
做推理部署的可以看看:SMC 解码顺手就能算出序列级熵,不用额外跑补全。论文在 MATH500 上验证过,两遍策略用少 34.2% 的粒子就能保住 64 粒子的准确率,算力紧张的团队直接受益。
这篇 arXiv 论文面向做仿真替代模型或工程不确定性量化的人。它把双保真建模和 Langevin 采样超网络结合起来,在实验、仿真和合成数据上验证,比单点拟合能给出后验不确定性,实验数据不够时也能用低保真数据补。
这篇论文把 conformal prediction 用在风电预测区间上,发现 pooled 校准在高风速下会失效,改用分层校准能减少 40% 以上的越界量,做预测不确定性量化的可以看看。
数值方法论文,用张量网络 CP 分解把高维动理学方程的成本从指数压到多项式,3D3V 例子单 GPU 半小时训完,做等离子体或半导体仿真模拟的可以看看。
做微流控或仿真代理模型的朋友可以看看,用集成不确定性找关键区域补数据,液滴直径预测误差0-3%的比例接近翻倍。
LLM 帮你找公式时,多个候选方程吵起来反而是信号——这篇论文教你用分歧位置决定哪里该不信任预测。
用 conformal prediction 做不确定性估计的朋友看看,这篇论文证明了预测集变小就等于获得了信息,还给了 11 个实验验证。
解决随机 PDE 不确定性量化的新网络结构,比九个基线更准还更省参数,做科学计算的可以看看开源代码。
做回归或不确定性量化的人可以看看:标准 GP 一旦 kernel 选错就崩,PrO-GPs 直接优化预测校准,实验显示误设下表现更稳。
做图神经网络的可以看看:一个表示同时搞定校准、OOD 检测和分布偏移,14 个基准 Brier score 最低,不用再各训练一个模型。
做量化交易的同学可以看看,这个模块能告诉模型哪些预测可以信,最有信心的 10% 预测 F1 直接到 0.88。
这篇论文提出了一种新的核方法框架,解决了核方法在处理非条件负定距离时的问题,理论严谨,实验结果也很有说服力。
朋友推荐:新方法叫 ActMap,能从单个生成里快速判断答案是否可靠,比传统方法更高效。
这篇论文提出了一种新的神经算子不确定性量化方法,在达西流和纳维-斯托克斯方程实验中表现优异。
TRACE-CRC解决了多步CSI预测中的不确定性量化问题,比传统方法更可靠且不确定性球更小。
PGBB这招挺巧,把贝叶斯自助法改成按组分权重,不用给每个人的数据加独立噪声,隐私预算省了,后验不确定性也给得准。相比要预设生成模型的私有方法,它在人口普查数据上更好。
这篇论文提出了iPANN和fPANN,用区间和模糊集处理本构建模中的不确定性,能包围噪声观测,还能把不确定性传到有限元仿真里。
这篇论文发现直接用余弦相似度搞局部共形预测效果一般,但换个非线性变换后,预测集变小了,值得做VLM不确定性量化的看看。
这篇论文搞了个Argus基准,比较了27种不确定性方法在4个VLM模型和4个GUI数据集上的表现。结论很实在:方法排名换模型就不灵了,闭源还得单独测。做智能体部署的可以看看。