Nick Bostrom 测算:只要灭绝风险低于97%,立即推出超级智能反而延长预期寿命
Bostrom 用一个很简单的数学模型算了一笔账:每天17万人死亡,拖延超级智能本身就在死人,只要灭绝风险压到97%以下,立即发布反而是净收益。这个阈值算法值得安全派和加速派都看看。
哲学家、《Superintelligence》作者 Nick Bostrom 给出一项计算:假设 AGI 之后人类死亡率降至健康 20 岁年轻人的水平,那么只要 AI 导致人类灭绝的风险低于 97%,立即推出超级智能就能提高当今在世者的预期寿命。
他的最简模型假设超级智能若能治愈衰老,人类只会死于事故等外部原因,平均剩余寿命将从约 40 年延长到约 1,400 年。他强调当前每天约有 17 万人死亡,延迟超级智能本身也在持续付出生命代价。
这一测算把'发展 vs 安全'的权衡用量化框架呈现:关键变量从'要不要冒险'变成'灭绝概率的阈值是多少'。对政策制定者和 AI 安全研究者而言,这类模型直接指向如何估算和压低 AI 灭尾风险的具体数值,而不是笼统的立场之争。
Nick Bostrom (famous Philosopher, best selling author of "Superintelligence" ) calculates that launching superintelligence immediately raises expected lifespan for people alive today as long as AI-caused extinction risk stays below 97%, assuming post-AGI death rates match a healthy 20-year-old’s.
With 170,000 people dying daily, Nick Bostrom says delaying superintelligence carries its own death toll.
His simplest model assumes that if superintelligence cured aging, only accidents and similar causes would kill people, stretching average remaining life from 40 years to about 1,400.
本条情报归属 AITOP「论文」核心栏目,重点聚焦欧洲人工智能治理与技术生态。在跨区域产业观察坐标中,该动态直接关联「各国 AI 监管法案、合规治理与主权算力政策」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Nick Bostrom、Superintelligence、AI安全、超级智能,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「rohanpaul_ai」(@rohanpaul_ai),经 AITOP 多维评分管线结构化提炼。截至目前,全网已有 2 家独立信源对该事件进行交叉印证与跟进报道(含 a16z 等),属于近期高关注度行业信号。
- a16z11-19 16:25原文