关于AI灭绝风险的研究几乎为零，这可能是第一步
There’s almost no serious research on existential risks of AI. Why? Maybe this could be a first step...
朋友，你肯定也觉得关于AI会灭掉人类这种说法太夸张了，但作者真的花了2小时去查文献，发现几乎没正经研究，这很值得一看。
作者花了2小时审查了关于AI导致人类灭绝风险的学术文献，发现几乎没有任何严肃研究。现有研究大多来自书籍和小说，或基于“纸夹”等游戏化概念，缺乏现实应用。作者认为，没有可信的、无需人类干预的AI自主灭绝人类场景，因此“AI可能杀死所有人”的说法难以被认真对待。作者呼吁提供3个可信的、无需人类干预的AI自主灭绝人类场景。
There’s almost no serious research on existential risks of AI. Why? Maybe this could be a first step...
There’s almost no serious research on existential risks of AI. Why? Maybe this could be a first step? Defend Intelligence (Anis Ayari) @DFintelligence Je viens de passer 2 h à scruter la littérature scientifique sur les risques d’extinction de l’humanité par l’IA. Hormis le fait qu’il n’existe quasiment rien, quasiment tout converge vers des livres et des romans, ou des raccourcis de type « paperclip », qui sont avant tout des jeux d’esprit sans réel application dans la vie réelle. Et il n’y a absolument aucun scénario plausible que j’ai lu qui ne demande pas l’intervention d’humains. Partant de ce principe, je ne comprends pas comment on peut sortir des phrases comme « L’IA peut tuer tous les humains » et être pris au sérieux. Donnez-moi 3 scénarios plausibles d’extermination de la race humaine, en toute autonomie, par une IA. Même ultra intelligente et auto apprenante. Allez-y, je vous écoute. Genre, vraiment, ça me fatigue qu’on donne autant d’importance à des scénarios de science-fiction. Faire des sorties de route sur des menaces aussi grandes, sans absolument aucun scénario plausible, c’est d’une mauvaise foi infinie. La recherche en safety sur des systèmes de plus en plus intelligents, dans des couches de plus en plus profondes, c’est important. Mais je pense qu’il faut vraiment arrêter de donner autant d’importance à des conneries comme ça. Ça me fatigue. 🔗 View Quoted Tweet 💬 26 🔄 7 ❤️ 93 👀 8869 📊 26 ⚡
