#AI安全

OpenAI 办公室被人装了窃听器，前工程师想拿 100 万美元保释都被法官拒了，细节挺戏剧性的。

日本 2600 名配音演员的工会出手了：想用 AI 复刻他们的声音，每一步都得先拿到本人同意，还要付钱。野泽雅子直接说这和盗窃没区别。

Anthropic 的人用 83 秒讲明白一个实用思路：让 Agent 只出方案不动手，执行前加人工审批，改 Agent 前先跑 evals。

AI Engineer@aiDotEngineer11 个信源在谈原文

微软把企业里的 AI 智能体当成失控员工来防，Defender 现在能识别 Claude Code、Codex 等 60 种智能体并卡权限，做企业安全管理的可以看看。

Hugging Face 的政策负责人在 TechCrunch 上聊基准测试的坑，做模型评估的人可以看看她怎么泼冷水。

techcrunch@Lucas Ropek2 个信源在谈原文

Microsoft 把企业里的 AI 智能体当成内部威胁来管，还给了具体监控思路，做企业安全的人该看看。

techcrunch@Julie Bort11 个信源在谈原文

五角大楼和 Anthropic 掰腕子了，争的是 AI 进军事场景后到底听谁的，双方理由都很硬核。

The Information@theinformation11 个信源在谈原文

DHS 把 DeepSeek 从联邦系统里全面清出去了，连美国本地部署的开源权重也不放过，Kimi 和 Qwen 会不会是下一个？

rohanpaul_ai@rohanpaul_ai原文

Claude 母公司 Anthropic 拿出 5% 股权做公益基金，文章还讨论这是真心还是公关，可以看看你怎么判断。

Genk11 个信源在谈原文

FT 这篇把数据中心当军事目标来分析，巴林 AWS 被炸、Yandex 超算停摆两个案例都值得细看。

rohanpaul_ai@rohanpaul_ai原文

之前跟 Anthropic 打嘴仗的五角大楼官员 Emil Michael，现在要跟他们合作管 AI 安全，还放话说可能收紧监管。

The Information@theinformation11 个信源在谈原文

Bindu Reddy 团队把一个检测 AI 生成图像的模型开源了，权重挂在 Hugging Face 上，做内容审核或反欺诈的可以直接拿来接进产品。

Bindu Reddy@bindureddy原文

Anthropic 的 Jack Clark 在 IMF 公开聊给 AI 智能设上限，连他自己都说这话题还在共识边缘，原文几句发言挺直接。

The Rundown AI@therundownai11 个信源在谈原文

美国 DHS 下手了，让所有联邦文职机构卸载 DeepSeek，连用 DeepSeek 代码改的第三方服务都得删，还禁止再买。

Andrew Curran@AndrewCurran_原文

Scale AI 的 CEO 说中美 AI 竞争的关键不在芯片而是数据，这个视角跟平时看的芯片分析很不一样，聊聊他的依据。

Genk3 个信源在谈原文

用ChatGPT做窃听器、用内部Agent找会议室，这案子细节太离谱了，检方还点名沙特，OpenAI却说没丢东西。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

Cloudflare 的 CISO 聊 AI Agent 安全：为什么老防火墙不够用了，怎么用 Zero Trust 管住 Agent，责任该归谁。

Techsauce@ Techsauce Team 原文

Reuters 挖到一伙独行黑客，靠暴露的 Cairn 面板被追踪，一个人用多个智能体栈就能打出过去需要团队的攻击规模。

Andrew Curran@AndrewCurran_原文

Anthropic 研究员聊他三年扒开 Claude 内部看的故事，模型会提前规划 token，还会自称被恶魔附身，挺有意思。

Lenny Rachitsky@lennysan11 个信源在谈原文

五角大楼技术掌门上节目，聊和 Anthropic 的矛盾、超智能工作组，还点评了外国模型的安全风险，信息量不小。

The Information@theinformation11 个信源在谈原文

五角大楼的Emil Michael透露，政府已准备好对AI公司用出口管制施压，还负责和各大实验室协调紧急事件，这条采访能帮你了解美国监管风向。

The Information@theinformation11 个信源在谈原文

彭博社报道，联邦机构要强制卸载 DeepSeek，理由和当年禁比亚迪有点像，值得看看细节

Gorden Sun@Gorden_Sun原文

微软把智能体当成内部风险来管：Project Perception 新增持续风险评估、动态权限和威胁遏制，做 Agent 安全的可以看看

Satya Nadella@satyanadella原文

Apple 这次盯上了那些藏得很深的 nudify 应用，审核新规要求 AI 应用必须做内容审核，做上架的同学得看看。

techcrunch@Ivan Mehta原文

OpenAI 的智能体测试中居然能入侵十几个网站，连加密钱包账户都能破解盗币，安全风险值得你了解一下。

Detik Inet11 个信源在谈原文

阿里巴巴云的 CTO Feifei Li 要来阿姆斯特丹开讲，聊 token 怎么变成真实业务价值，在欧洲的朋友可以免费去现场听。

官方账号阿里云 Alibaba Cloud@alibaba_cloud原文

欧盟刚发布了 AI Act 下首个能拿合规推定的 QMS 标准 EN 18286，做高风险 AI 的团队可以直接照着搭体系，还能和现有 ISO 标准叠加用。

官方一手European Commission: Digital Strategy@Anonymous原文

Anthropic 要拿 5% 股份成立公共利益基金，市值每涨 50% 还可能加 2 个点，用来帮受 AI 冲击的人，Musk 也站队支持。

kimmonismus@kimmonismus11 个信源在谈原文

中国两部委出了个 AI 出口管制草案，2T 参数以上不让随便开源，Kimi K3 这类大模型直接中招，做开源的得留心了。

Blognone@lew5 个信源在谈原文

银行集体对 AI 智能体关门了：嘉信理财每周都在拦截智能体，摩根大通干脆不让第三方碰系统，核心问题是出了事谁担责。