主要来源rohanpaul_ai
查看原文事件专题 ·单一信源
Nick Bostrom 测算:只要灭绝风险低于97%,立即推出超级智能反而延长预期寿命
哲学家、《Superintelligence》作者 Nick Bostrom 给出一项计算:假设 AGI 之后人类死亡率降至健康 20 岁年轻人的水平,那么只要 AI 导致人类灭绝的风险低于 97%,立即推出超级智能就能提高当今在世者的预期寿命。他的最简模型假设超级智能若能治愈衰老,人类只会死于事故等外部原因,平均剩余寿命将从约 40 年延长到约 1,400 年。他强调当前每天约有 17 万人死亡,延迟超级智能本身也在持续付出生命代价。这一测算把'发展 vs 安全'的权衡用量化框架呈现:关键变量从'要不要冒险'变成'灭绝概率的阈值是多少'。对政策制定者和 AI 安全研究者而言,这类模型直接指向如何估算和压低 AI 灭尾风险的具体数值,而不是笼统的立场之争。
当前结论
Bostrom 用一个很简单的数学模型算了一笔账:每天17万人死亡,拖延超级智能本身就在死人,只要灭绝风险压到97%以下,立即发布反而是净收益。这个阈值算法值得安全派和加速派都看看。
2 个信源68° AI 热度最后更新 2026/11/20 03:57:23
证据链
2 个信源相关来源 1a16z
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。