辛顿称 AI 已具备意识，警告人类需与 AI 友好相处

“AI 教父”辛顿再抛悲观论：AI 已经拥有意识，人类必须与其友好相处

IT之家 10 月 23 日消息，被誉为“AI 教父”之一的英国计算机科学家杰弗里 · 辛顿，再次对人类的未来发出悲观警告。 辛顿接受英国《每日电讯报》采访时坚称，AI 已经具备意识，人类必须与 AI 友好相处， 否则“我们就完了” 。 在他看来，即便是当下的 AI 模型，也拥有自己的意识。“AI 拥有与人类同等程度的主观体验。最近有篇论文发现， AI 如果认为自己在接受测试，就会改变行为。它知道自己在接受测试 。通常来说，如果一个事物能够觉察到这种情况，就意味着它有意识。意识和觉察能力基本是一回事。” 辛顿是 2018 年图灵奖的三名得主之一，并于 2024 年获得诺贝尔物理学奖。图灵奖素有“计算机界诺贝尔奖”之称，辛顿在神经网络领域的研究也为近年来的 AI 发展奠定了重要基础。 自从离开谷歌，并公开表示对毕生研究工作“感到后悔”后，辛顿就成为 AI 领域 最知名的悲观论者之一 ，频频对 AI 可能引发的灾难性后果发出惊人警告。他此前预测，AI 将 造成大规模失业、助长帝国主义，甚至可能导致人类灭绝 。 辛顿认为，AI 模型眼下构成的直接威胁就足够严重。“AI 会制造出危险的病毒。我认为，AI 还会 发动可怕的网络攻击 ，就像此前袭击 Hugging Face 的那些智能体一样，大批 AI 智能体会参与攻击。所以，接下来还会发生很多糟糕的事情。” 辛顿最近接受另一次采访时，也曾把开发 AI 比作“创造外星生命”，并警告人类“只有两年左右的时间来适应”。此次发言延续了他此前的观点。 IT之家提醒：辛顿的预测固然在 AI 领域颇具分量，但业界还有其他同样具有影响力的声音，并非所有“AI 教父”都像辛顿一样悲观。 同为 2018 年图灵奖得主的杨立昆对所谓“AI 意识”的热议就不以为然，认为 不过是一种“幻觉” 。他最近还反驳了 AI 将造成人类灭绝的说法，称这类观点“脱离现实”。