黄仁勋:前沿实验室若无法控制 AI 安全就必须关闭
英伟达黄仁勋:若前沿实验室无法控制 AI,那么必须要关闭
黄仁勋话说得挺狠:前沿实验室管不住 AI 就该关。他还说别瞎焦虑,关键是实验可不可控,这个角度挺少见。
英伟达 CEO 黄仁勋在接受《纽约时报》采访时表示,如果前沿实验室无法控制 AI 安全,就必须关闭这些实验室。他针对 OpenAI、Anthropic、Meta、Google 前沿模型遭遇越狱攻击的现象称,实验若产生失控智能体将引发民事与刑事责任,实验室需承担后果。他还认为当前围绕前沿 AI 实验室的泛化焦虑属于干扰,真正应聚焦的是实验可控性。
英伟达黄仁勋:若前沿实验室无法控制 AI,那么必须要关闭
IT之家 9 月 25 日消息,在接受《纽约时报》采访时,英伟达首席执行官黄仁勋认为, 如果前沿实验室无法控制 AI 安全,那么“我们必须关闭这些实验室”。 IT之家援引博文介绍,针对 OpenAI、Anthropic、Meta 以及 Google 等公司的前沿 AI 模型“越狱”攻击实体行为, 黄仁勋认为如果前沿实验室无法控制其 AI 实验,那么这些实验就必须停止。 黄仁勋认为 AI 实验若产生失控智能体(rogue agents), 将引发民事与刑事责任,实验室需承担后果。 现阶段围绕前沿 AI 实验室的担忧属于“干扰”,偏离了实际问题核心, 不应该泛焦虑,应该聚焦于实验可控性。