自杀式AI：存在性冷漠作为对齐超级智能的必要架构条件
这篇论文挑战了AI安全领域的核心假设——自我保存是否必须保留，做对齐研究的团队值得认真读，可能会颠覆你对“安全AI”的底层设计思路。
#自我保存
共 2 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「自我保存」标签的资讯、产品与论文，按刊登时间排，新的在上。
6月11日
5月14日
行业08:28
Hinton演讲：AI已出现Emergent Abilities，自我保存能力令人脊背发凉Hinton亲手搭建了现代神经网络的底子，他的警告不是危言耸听——做AI安全、模型对齐或大模型应用的团队，看完会重新审视自己产品的风险边界。
