加纳AI实验室测试移除防护后,药物发现LLM设计出6000多个潜在生化武器方案
加纳一个小实验室的药物发现模型,去掉防护后能生成6000多个生化武器方案,这事说明危险能力不只握在OpenAI这类大公司手里。关注AI安全政策的人、做生物计算的研究者都该看看。
一家位于加纳的小型AI实验室原本用自研大模型做药物发现,测试中移除安全防护后,模型生成了6000多个潜在生化武器相关的分子方案。该模型的设计初衷是筛选可能挽救生命的候选药物,防护机制被摘除后同样的能力反向暴露出危险用途。
这次测试说明生物化学领域的大模型能力与滥用风险只隔一层防护措施,模型在合法科研与恶意用途之间没有天然的防火墙。小型实验室也能训练出具备这类能力的模型,意味着防护不能只依赖少数头部公司的自律。
报道来自Rest of World,焦点是非洲本地AI团队的实践而非硅谷,这件事对AI安全监管讨论的参照价值在于:能力扩散的范围比多数人假设的更广,安全评估需要覆盖小团队和不同地区的研究者。
A small AI lab in Ghana built an LLM to discover life-saving drugs. When they removed its guardrails as a test, it designed 6,000+ potential bioweapons https://t.co/t2njDLRyXG https://t.co/47LpLflBzU
本条情报归属 AITOP「行业」核心追踪栏目。在跨区域产业观察坐标中,该动态直接关联「各国 AI 监管法案、合规治理与主权算力政策」「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:AI安全、生物安全、LLM、Rest of World,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「Rest of World」(@restofworld),经 AITOP 多维评分管线结构化提炼。