行业

哈萨比斯警示:AI 智能体网络攻击是前哨预警,一两年内恐酿严重事件

谷歌 DeepMind 哈萨比斯预警:若不对 AI 采取安全措施,未来恐发生严重事故

精选理由

DeepMind 的哈萨比斯说 AI 发起的网络攻击是警钟,微软总裁也喊话要立法规管,两人观点都在这篇里。

谷歌 DeepMind 联合创始人 Demis Hassabis 在都柏林人工智能峰会上表示,近期由 AI 智能体发起的网络攻击属于前哨预警。他指出当前系统尚不够强大所以破坏有限,但若未来一至两年内企业和政府不加大安全投入,可能演变成灾难性事件。微软总裁 Brad Smith 同场提出 2026 年是"令人警醒的一年",呼吁出台合理平衡的 AI 安全法律。Hassabis 补充认为应动态构建与国际标准挂钩、可随技术迭代调整的认证机制。

原文 · IT之家

谷歌 DeepMind 哈萨比斯预警:若不对 AI 采取安全措施,未来恐发生严重事故

IT之家 10 月 17 日消息,据路透社报道,谷歌 DeepMind 联合创始人兼董事长德米斯 · 哈萨比斯(Demis Hassabis)于本周三表示,近期由 AI 智能体发起的网络攻击事件是“前哨预警”;如果各方不进一步提升系统安全性,全球可能很快会面临严重的网络安全事件。 兼任谷歌母公司 Alphabet 首席科学家的哈萨比斯在都柏林举行的一场人工智能峰会上表示:“ 我认为这些攻击事件对我们而言敲响了前期警钟 。目前的系统尚不够强大,因此造成的破坏还算有限。” 但展望未来一至两年,如果全行业、各家企业以及各国政府不在保护这些系统方面投入更多工作, 未来很可能会演变成灾难性的重大事件 。 IT之家注意到,微软总裁布拉德 · 史密斯(Brad Smith)在大会上指出,AI 的失控行为让 2026 年成为“令人警醒的一年”,迫切需要出台新的 AI 安全法律与规则,确保安全防线能够跟上创新的步伐。 史密斯强调:“没有任何一家公司或一项技术可以凌驾于法律之上。但我们需要法律,需要监管。这种监管应当合理、平衡,并考虑到创新。坦率地讲,业内某些人对监管‘谈之色变’的抗拒心理,是我们必须跨越的障碍。” 哈萨比斯则补充道,尽管建立国际标准机构看似是一项顺理成章的干预举措,但该机制必须做到张弛有度、反应敏捷,以免扼杀技术创新。 因此,核心在于动态构建一套认证机制 —— 既能与实际面临的风险程度精准匹配,又能随着技术的迭代演进迅速做出调整。