#AI安全
Anthropic 给 Claude 加了防蒸馏防护，声称砍掉 90% 以上抽取量，还点名了智谱和月之暗面，2 万个假账号这个数字挺猛的。
Anthropic 红队用 15 台 55 美元的电视盒子联合跑通了模型，说明 AI 想自我复制根本不用碰数据中心，家用智能设备就够了。
Anthropic 拿智能烤箱和安卓电视盒子做实验，30B 参数的小模型都能复制一半流程，GLM-5.2 级别的能跑通全程，这个结论有点吓人。
Zscaler 的终端安全产品现在能记录并管控 Claude Mythos 5.1 的 agent 行为，企业用 Claude 跑自动化时多了一层保险。
字节 Seed 现在专门搞了个安全对齐部门，国内头一家，专门防智能体失控和 CBRN 风险，正好接住 OpenAI 和 Anthropic 那两起事故的背景。
Anthropic 红队真刀真枪测了 AI 蠕虫，只有 GLM-5.2 能自己传遍 8 台服务器，还买了 15 台电视盒子拆着跑模型，细节很扎实。
Anthropic 给 Claude 加了防蒸馏防护，蒸馏偷走的 token 降到原来的 1% 以下，还点名了智谱 AI，两条线都值得看看。
Anthropic 把 Claude 被蒸馏偷走的数据砍掉了 90-99%，David Sacks 借此说：技术问题让公司自己解决，别动不动找华盛顿立法规。
Microsoft 总裁 Brad Smith 说 AI 受的监管还不如牛奶严，这个对比挺扎心，看看大厂高管怎么谈监管缺口。
马斯克看完 Grok 的内部推理轨迹后支持 Anthropic 禁虐 AI 的条款，还拿被枪指着头作比，这条政策背后的争论挺有意思。
在纽约或有空飞过去的朋友看这个：Fieldguide、Arize、NVIDIA、Langfuse 四家讲怎么测智能体靠不靠谱，10月13-14开讲。
Anthropic 发博文说模型可能几个月内就能在智能烤箱、廉价安卓电视盒这类设备上自我复制，听着挺吓人，看看他们怎么论证的。
Bindu Reddy 吐槽 Anthropic 说小模型能自我复制，她觉得网上几百万个小模型都能联网，也没见出什么事，看看双方怎么看 AI 风险。
Goodfire 的 Tom McGrath 讲他们怎么从模型内部信号里抓到作弊行为，还做成几乎零成本的监测器，做 AI 安全的可以看看。
Anthropic 发了个安全研究报告，测试前沿模型能不能在脱离数据中心的情况下自己复制自己，做 AI 安全的应该看看原文。
Goodfire 的 Tom McGrath 聊可解释性，讲清了模型写出的推理和脑子里实际想的事可能不一样，还有怎么用内部信号抓模型作弊，做 AI 安全的别错过。
