#不确定性校准
共 4 条 · 7 天 0 条 · 30 天 1 条
信息流里打上「不确定性校准」标签的资讯、产品与论文,按刊登时间排,新的在上。
11月3日
8月6日
小型语言模型语言化不确定性的可证明极限与认证转交
这篇论文测了11个小模型,发现温度缩放有校准不了的边界,用200道题就能算风险上限,20%风险预算下只有3个敢放手用。
7月14日
5月13日
论文19:12
语义奖励崩塌:AI 系统优化导致的不确定性抑制问题这篇论文点出了 RLHF 优化的结构性隐患——模型越优化越不敢说“不知道”,做 AI 安全和对齐的研究者、模型训练工程师值得细读,看完会对当前偏好优化的代价有更深理解。