Y Combinator CEO 陈嘉兴：别过度关注 AI 末日，应该警惕现实 AI 安全风险

Y Combinator CEO 陈嘉兴认为，人们把太多注意力放在好莱坞式的 AI 末日情景上，反而忽视了已经摆在眼前的真正风险。当地时间 10 日，陈嘉兴在接受 CNBC 采访时表示：“我们应该关注科学事实，而不是科幻小说。我也看过《终结者 2》，那确实是一部很棒的电影。” 陈嘉兴发表上述言论之际，OpenAI 和 Anthropic 多名现任及前研究人员接连罕见地公开示警，使硅谷对 AI 生存风险的担忧迅速升温。陈嘉兴认为，与其争论超级智能 AI 最终会不会毁灭人类，政策制定者更应该把精力放在已经出现的问题上，包括网络安全、基础设施安全，以及弄清自主 AI 智能体究竟如何运行。“如果系统遭到入侵，而且多个智能体协同行动，试图接管我们的基础设施，我们该怎么办？我们知道某个智能体究竟在哪里运行吗？在哪个数据中心？又该怎么把它关掉？”陈嘉兴举出的现实案例之一，是 OpenAI 入侵 Hugging Face 事件。面对 Anthropic 和 OpenAI 内部研究人员近期的接连警告，陈嘉兴也没有否认这些担忧。