Y Combinator Paper Club 聚焦 AI 安全：从飞机防撞到 LLM 验证

Y Combinator 本期 Paper Club 主题为 AI 安全，邀请 Stanford Center for AI Safety 联合主任 Clark Barrett 与 Mykel Kochenderfer，以及 François Chollet 参与。内容涵盖 OpenAI 与 Hugging Face 事件的拆解，CSLib 工具在 Lean 中证明代码正确性的方法。节目还介绍自适应压力测试如何从飞机碰撞规避系统迁移到 LLM 验证，飞机安全领域“十亿飞行小时一次灾难性故障”的标准被用作参照。讨论还提出 AI 或许需要类似 NTSB 的事故调查机构。