UC教授Russell分享AI安全新思路,承认不确定性比盲目追求准确更关键。
#不确定性
共 14 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「不确定性」标签的资讯、产品与论文,按刊登时间排,新的在上。
10月11日
UC教授:AI安全应承认不确定性
9月18日
临床AI采用的关键:校准不确定性与主动回避
临床AI要真正用起来,得解决置信度问题。不是简单显示概率,而是要校准不确定性,让医生知道模型什么时候该主动回避,这样才敢信任。
9月3日
UTP-Bench:不确定性旅行规划基准
UTP-Bench用真实数据测试GPT-5等模型,发现它们在时间缓冲、延迟感知和人群敏感规划方面与人类计划差距明显。
8月29日
谷歌DeepMind探讨AI系统中的不确定性
谷歌DeepMind专家讲解AI如何通过理解不确定性做出更可靠决策,从天气预测到机器人应用都有涉及。
8月4日
7月15日
7月14日
7月1日
6月18日
6月16日
6月10日
WorldKernel:世界模型是可能世界的耦合核
这篇论文戳破了“数据足够就能预测一切”的常见假设,做因果推断、反事实推理或世界模型研究的开发者会看到理论上的新边界——原来预测器天生缺失跨世界耦合信息,而WorldKernel给出了补全它的数学框架,值得细读。
5月27日
MUSE框架揭示LLM顺从行为:不只是谄媚,还有不确定性驱动
做LLM对齐和安全性研究的团队值得关注——MUSE框架帮你区分模型是‘真谄媚’还是‘没底气’,从而设计更精准的干预策略。
5月26日
Google 新论文:LLM 应停止假装确定,诚实表达不确定性
这篇论文点破了 LLM 幻觉的核心矛盾——不是知识不够,而是不知道什么时候该说“不确定”。做 AI 产品、智能体或对话系统的团队,看完会对“诚实比正确更重要”有更深理解,建议直接读原文。
5月17日