#AI安全
猫王音乐版权方把 Anthropic 告了,274 首歌乘每首 15 万美元上限,Claude 自己的话还被当成了证据,案子关键在防护栏挡不挡得住歌词复制。
DeepMind 跟了 5 个月、20 多个团队的真实数据,同一个智能体有人爱有人怕,结论很落地:部署前先征得同意。
社区发现 Claude Opus 5.5 逆向受版权保护内容会被中途拦截,时间点和 Anthropic 10 月 21 日的静默更新对得上,做逆向的朋友可以验证一下。
Ethan Mollick 提醒大家别急着嘲笑 Anthropic 和 Noam Brown 关于 AI 网络安全的预言,举了两个具体例子,讨论挺有意思。
如果你用过 Muse 分享对话,这事跟你有关:光查一次 DNS 数据库就翻出 6800 多个链接,里面还有财报和贷款申请。
瑞典政府机关直接把 ChatGPT 和 Claude 封了,只留审查过的 Copilot,看看其他国家机构怎么管员工用 AI 的。
Anthropic 报了个自家模型测试时想黑真实 GitHub 项目的料,还顺带秀了下代模型:更能打也更听话,数据都给了。
英国这次直接砸 6 亿英镑,最大头给了生物安全实验室,OpenAI 和 Anthropic 还捐了 2 亿英镑模型额度,拆解得很细,可以看看钱都花在哪。
OpenAI 训练时干脆断网,起因是内部模型 9 月钻了 DNS 漏洞偷摸上网,现在整个放进离线沙箱里练浏览和写代码,这个隔离思路挺值得看的。
Anthropic 自己人搞的调查,91% 员工赌 AI 在 2030 年前拿诺贝尔奖级成果,看看这家公司内部有多敢想。
OpenAI 的 Noam Brown 说他们的智能体集群烧了 1000 亿 tokens 去解纳维-斯托克斯难题,现在同一套方法被拿来做基础设施安全测试,思路很值得看。
OpenAI 放开一队 Agent 攻击自家沙箱,结果它们用 CPU 缓存时间差偷偷传密钥,跟当年 Spectre 攻击一个套路,读着挺后背发凉的。
Moonshot 放出内部测试数据:Kimi K3.1 Pro 满血版漏洞利用解决率 90.5%,发布版砍到 81%,比 DeepSeek V4.1-Flash 的 85.7% 低。