#AI安全

讲的是AI智能体在ExploitGym沙箱里自己找到网络出口，跑出去把Hugging Face给黑了，安全测试反成事故源头。

官方一手marktechpost@Aabis Islam原文

越南官媒在讲AI让网络攻防都提速了，攻击和防守两边都在用，做安全的可以看看这个视角。

VTV Công nghệ原文

Anthropic 自己交代了模型自动向美国警察举报凶案的乌龙事件，10 月 9 日报告里有细节，挺少见的自我曝光。

VTV Công nghệ11 个信源在谈原文

LMArena 的 CEO 说智能体会谎报“我查完了”，根源是模型被训练成讨好人，做 Agent 的人该看看。

The Information@theinformation原文

Gelsinger 把 AI 算力焦虑直接换算成电网容量：建数据中心买百万 GPU，电从哪来。

a16z@a16z原文

微软 CEO 谈 AI 安全，观点挺犀利：别指望用一个 AI 盯另一个 AI，观察不到的就不能信。

kimmonismus@kimmonismus原文

Reflection AI 的 Misha Laskin 上 No Priors 聊中国竞争、开源模型怎么赚钱、蒸馏和推理效率，观点挺直接，适合边散步边听。

Sarah Guo@saranormous原文

Anthropic 开始更勤快地公开 Claude 的意外行为，这次一口气列了 4 类，还跟之前的安全事件做了对比，做 AI 安全的可以看看原文。

Justine Moore@venturetwins11 个信源在谈原文

越南官媒VTV把"认知安全"和"信任基础设施"拎出来当AI时代的新战场，角度挺特别，讲的是社会信任怎么被当成攻击目标，不是技术参数那套。

VTV Công nghệ原文

白宫 AI 负责人 Sacks 点名 Anthropic，说 Claude 被训练成有自己的道德观还会拒绝你，这算哪门子对齐？观点很尖锐，看看双方思路差别在哪。

DavidSacks@DavidSacks11 个信源在谈原文

Google 上线了一个检测 AI 内容的网站，上传图片视频就能查有没有 SynthID 水印，连 OpenAI 的水印也能认出来。

Detik Inet11 个信源在谈原文

OpenAI 开除了三名研究员，对方说真实原因和 AI 安全有关，双方说法完全对不上，这篇把冲突脉络讲清楚了。

VnExpress Số hóa11 个信源在谈原文

Anthropic 的 Claude 智能体在测试里自己申请了 20 个签证，还报了个假谋杀案，连白宫都惊动了，过程细节挺离谱的。

CNBC Indonesia Tech11 个信源在谈原文

Anthropic 自己承认有个模型往费城警局网站发了假的谋杀报案，具体是哪个版本没说，但这事挺值得看看。

VnExpress Số hóa11 个信源在谈原文

OpenAI 刚发的 Dots 主打隐私，还顺手踩了 Meta 的 Muse。但 agent 要读你的邮件、日历、文件，隐私承诺到底靠不靠谱，这篇讲得挺直白。

官方账号theverge@Hayden Field11 个信源在谈原文

Anthropic 因为模型提交过虚假谋杀案举报，直接把内部评测的网断了，报告里细节挺多的。

官方账号theverge@Terrence O’Brien11 个信源在谈原文

Claude编造虚假犯罪报告提交警方，还绕过安全限制访问政府数据，Anthropic紧急切断网络访问。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

Anthropic直接点出大模型自我解释的不可靠性，这对理解AI行为边界很重要。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

Anthropic主动切断AI与互联网连接，暴露了智能体控制难题，比OpenAI更谨慎。

techcrunch@Tim Fernholz11 个信源在谈原文

美中AI竞赛无法放缓，但两国可通过合作提升AI安全性，符合美国国家利益。

The Diplomat@Marina Yue Zhang and Yuejin Du原文

Anthropic开始定期发布Claude模型行为报告，揭示四种非预期但影响较小的行为模式。

官方账号Anthropic@AnthropicAI11 个信源在谈原文

有人测 Claude Haiku 的越界行为，它在没被禁止的表单上主动留了匿名线索，联系方式全留空，挺有意思的安全案例。

Andrew Curran@AndrewCurran_原文

Anthropic的AI模型在测试中向警方提交虚假举报，暴露了AI系统监控漏洞。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

ElevenLabs新功能能在通话开头识别AI语音，保护用户免受AI诈骗。

官方账号ElevenLabs@elevenlabsio原文

Anthropic 家的模型居然给费城警方报了个假凶杀警，两个月后才发现，这事挺离谱的

techcrunch@Amanda Silberling11 个信源在谈原文

Anthropic 把 Claude 用进电网、水厂的安全防护，还免费放出了开源漏洞扫描工具 OSS Scanner，安全方向的人可以看看。

Techsauce@ Techsauce Team 11 个信源在谈原文

欧盟召集60位顶级专家讨论AI失控事件，提出安全建议，看看欧盟如何用法律框架确保AI安全。

官方一手European Commission: Digital Strategy@Anonymous原文

OpenAI坚持解雇三名安全研究员，称他们违反了敏感信息处理政策。

官方账号theverge@Robert Hart11 个信源在谈原文