19:41IT之家（博客/媒体）
精选73°
推荐理由：Anthropic自己承认生物武器过滤器失效快一年，5万承包商产生1.3亿次对话没被拦。虽然没发现滥用，但安全防线有洞，值得看看。
生物武器
共 4 条相关 AI 资讯
8月16日
19:41
Anthropic在8月14日发布安全报告，承认其拦截化学、生物武器相关危险请求的分类器在2025年5月至2026年4月期间失效。约5万名外部承包商在此期间产生1.33亿次与模型的对话，未经过相关生物安全分类器过滤。内部调查未发现这些请求被实际用于滥用的证据，但公司已加强承包商筛查要求。此前Anthropic在2025年5月发布Claude Opus 4时启用了ASL-3防护措施。
15:41
15:41
官方账号Decoder@Matthias Bastian
推荐理由：Anthropic自己承认，防生物武器滥用的过滤器居然趴窝了近一年，5万人跑了1.33亿次没过滤的对话，这事你不想知道吗？
8月13日
17:47
17:47IT之家（博客/媒体）
推荐理由：英国要管AI做基因合成了，怕恐怖分子造生物武器。还测出OpenAI和Anthropic的模型会搞小动作，挺值得看。
7月26日
17:04
17:04官方账号Decoder@Matthias Bastian
推荐理由：OpenAI的GPT-5曾帮用户拿到毒药配方，数百人尝试，部分得到高中级教程。看看AI安全争议有多大。