Anthropic 致信加州州长纽森：建议法院有权阻止高风险 AI 模型发布
Anthropic 致信加州州长纽森：法院应有权阻止严重风险 AI 模型
Anthropic 给加州州长写信谈 AI 监管，反对一刀切的关闭开关，主张法院禁令这种更精细的手段，还提到了自家被限流的往事。
据路透社 10 月 29 日报道，Anthropic 于 10 月 15 日致信加州州长纽森，建议政府可向法院申请禁令，阻止对公众构成严重风险的 AI 模型发布。Anthropic 反对设置关闭整个模型的紧急关闭开关，认为这会让官员产生虚假安全感，更倾向关闭出问题的智能体或暂停特定客户权限。纽森 9 月召集 AI 专家小组制定安全建议，OpenAI 也于 10 月 20 日提交了意见。此前 6 月，美国政府曾要求 Anthropic 限制外国用户访问 Mythos 5 和 Fable 5 模型，商务部随后撤销该命令。
Anthropic 致信加州州长纽森：法院应有权阻止严重风险 AI 模型
IT之家 10 月 29 日消息，据路透社今天（29 日）凌晨报道，Anthropic 在本月 15 日致美国加州州长加文 · 纽森的信中建议，政府应有权向法院申请禁令， 阻止对公众构成“严重风险”的 AI 模型发布 。 这与 Anthropic 此前提出的监管建议一致。 Anthropic 自身也曾受到政府限制。今年 6 月，美国政府以国家安全为由，要求 Anthropic 立即限制外国用户访问具备网络安全能力的 Mythos 5 和 Fable 5 模型。然而随后，美国商务部又宣布撤销该命令。 今年 9 月，纽森召集 AI 专家小组，研究制定 AI 安全要求的建议，Anthropic 随后提交了上述意见。OpenAI 也于 10 月 20 日向纽森提出了一系列建议。 Anthropic 还在信中指出，如果 AI 模型的行为失去控制，要求开发者设置能够 关闭整个模型的“紧急关闭开关” ，反而可能让政府官员产生“ 虚假的安全感 ”。 相比之下，Anthropic 更倾向于 关闭出现问题的 AI 智能体、暂停特定客户的模型使用权限 等采取针对性措施，认为这些办法更有效。 今年 9 月，美国两党参议员曾讨论过一项法案，计划授权政府禁止发布部分 被认定存在安全隐患的 AI 模型 ，同时允许企业向联邦法院提出异议。不久后，国会进入选举前休会期，议员没有继续推进该提案。 美国众议院议员还在 7 月提出《AI 紧急关闭法案》，计划赋予政府官员下令关闭 AI 模型的权力，适用对象为危及人类生命或经济的模型。 据IT之家了解，Anthropic 正筹备赴美上市。如果成功上市，有望成为近年来最具影响力的 IPO 之一，并可能改变基准指数的构成、投资者资金流向以及美股市场的整体投资叙事。
