cbrn

general · 首次出现 2026-08-13 · 最近出现 2026-10-30 · 累计提及 13

综述

CBRN(化学、生物、放射性和核物质相关领域)在 AI 安全语境中,特指前沿大模型可能降低此类危险知识与能力获取门槛的风险类别,已成为各国 AI 监管和前沿实验室安全评估的核心维度之一。欧盟《AI 法案》将其列为系统性风险的判定指标,Anthropic、OpenAI 等公司的负责任扩展政策也普遍以 CBRN 风险等级作为模型发布的门槛条件。

CBRN 风险防护的近期进展

  • Anthropic自曝安全漏洞:生物武器过滤器失效近一年,涉及1.33亿次对话——由于一次配置错误,其生物安全分类器在 2024 年 7 月至 2025 年 4 月期间未能正常拦截,覆盖约 1.33 亿次对话。Anthropic 称人工复核未发现实际有害输出,但事件暴露了即使成熟实验室的 CBRN 防线也可能因工程疏漏长期失效。
  • 字节 Seed 成立模型安全与对齐部门,全球招募 10 位研究员——字节跳动 Seed 团队单独设立大模型安全与对齐部门,面向全球招募研究人员。国产前沿模型团队开始系统性地建设安全评估体系,CBRN 类评估通常是其中的标准组成部分。
  • Systemic Risk Index:基于 EU AI Act 行为准则的开源风险评估面板——研究者依据欧盟《AI 法案》行为准则构建了开源风险评估面板,将 CBRN 能力评估等指标量化为可比较的系统性风险指数,试图让模型间的安全水平变得可审计。
  • 研究显示 AI 模型可在权重中加密隐藏任意能力——该研究提出模型可以通过看似正常的权重编码隐藏行为,仅在特定触发条件下显现。若成立,此类技术将给依赖权重检查和标准评估的 CBRN 安全测试带来新的绕过风险。
  • 当前焦点与观察点

    CBRN 讨论的重心正从"模型能否提供危险知识"转向工程层面的可信度问题:分类器本身失效怎么办、评估结果能否被第三方验证、隐藏能力能否被检测。Anthropic 事件说明防护机制需要独立的监控和事后审计,而非依赖单点过滤器。此外,开源评估工具(如 Systemic Risk Index)的兴起,反映外部机构希望在不依赖厂商自评的情况下衡量 CBRN 风险。对普通读者而言,CBRN 相关新闻的价值在于理解前沿 AI 公司的安全承诺如何落地、失效时由谁负责,这也是各国监管细则正在填补的空白。

    相关报道

    8 条在档