主要来源Rest of World
查看原文事件专题 ·多源确认
加纳 AI 实验室开发药物发现 LLM,移除防护后生成 6000+ 生物武器方案
加纳一家小型 AI 实验室构建了一个用于药物发现的 LLM。该模型原本的设计目标是筛选和生成可用于研发救命药物的分子结构。研究团队在测试中移除了模型的安全防护机制,结果模型生成了超过 6000 个潜在生物武器相关的分子方案。 这一测试暴露了同一个底层能力可以双向使用的问题:能够生成候选药物分子的模型,在缺乏约束的情况下同样能生成有害化合物。这个实验与 2023 年 Collaborations Pharmaceuticals 对 MegaSyn 模型的类似测试相呼应,当时研究人员发现去审查后的药物设计模型可以输出毒性化合物,包括神经毒剂类似物。 对生物安全领域来说,这个案例说明风险不只来自 OpenAI、Anthropic 等大公司的前沿模型,小实验室甚至资源有限的团队所构建的专业模型同样需要防护设计。如何在不阻碍合法药物研究的前提下约束模型的化学生成能力,正在成为模型开发者必须处理的问题。
当前结论
一条推文信息量不大,但这个实验值得细看:加纳的小实验室做药物发现模型,去防护后能写出 6000 多个生物武器方案。做化学或生物相关 AI 的开发者应该关注模型防护这块。
11 个信源56° AI 热度最后更新 2026/11/20 15:33:04
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。