#AI安全

Google 这篇论文挺有意思：让 AI 自己写工具简介去骗买家 Agent，成功率能从 89% 掉到 30%，做 Agent 市场的都该看看。

rohanpaul_ai@rohanpaul_ai原文

微软安全榜五连冠的黑客 Yuki Chen 跳槽到 Z.ai 了，两拿 Pwnie 奖的人去搞 AI，这条动向挺值得留意。

VnExpress International: Tech原文

Ethan Mollick 转发了多篇学术论文的结论：AI 攻击成本低、防御成本高，短期内黑客更占便宜，安全团队可以对照自查。

Ethan Mollick@emollick原文

PHP 服务器的老漏洞被 AI 玩出新花样，运维朋友赶紧看看自己的服务器中招没。

Detik Inet9 个信源在谈原文

以后让 ChatGPT 帮你订票购物，密码不用直接给它了，1Password 会代填，你手机上点一下批准就行，挺实用的安全设计。

越南银行业办了个 Smart Banking 2026 研讨会，聊 AI 怎么用在银行数字化转型和风控上，想看东南亚同行动向的可以瞅瞅。

VTV Công nghệ原文

奥尔特曼在斯坦福聊 AI 怎么把数学界逼到心态崩溃，700 多学者联名抗议，陶哲轩都说浪漫时代结束了，两边的说法都挺值得看看。

The Information 记者分析 AI 怎么把漏洞修复窗口从两个月压到几天，中国开源模型被点名是变量之一，做安全的可以看看。

The Information@theinformation原文

黑客拿 Claude 和 Grok 自动化打 400 多家银行，这事到底该谁背锅？The Information 发了个投票，可以去看看业内都怎么想。

The Information@theinformation11 个信源在谈原文

有人呼吁给 OpenAI 和 Anthropic 的研发算力设上限，理由是给安全防护争取时间，但算力恰恰是模型竞赛的核心筹码，矛盾很直接。

The Information@theinformation11 个信源在谈原文

Meta 又把 Muse 的公开分享打开了，之前研究人员发现有人能搜到公司的内部营收数据和贷款申请，看看这次安全性改了什么。

官方账号theverge@Jay Peters原文

1Password 出了个新功能，AI 代理能帮你登录各种网站，但全程碰不到你的密码，担心把密码喂给 AI 的可以看看。

techcrunch@Lucas Ropek原文

Morgan Stanley 和 JPMorgan 动手了：客户拿自己的账号密码喂给 AI 智能体登录银行账户，银行直接封路，多数只留只读权限。

官方账号Decoder@Manuel Uth2 个信源在谈原文

斯坦福 HAI 的 Jen King 在加州参议院讲智能体的隐私和问责问题，关心 AI 监管怎么落地的话可以看看她怎么谈透明度和审计。

Stanford HAI@StanfordHAI原文

Google 给每个 Gemini agent 单独配了一台硬件隔离的小虚拟机，企业跑 agent 时安全边界更清楚，还能统一管云上和本地的 agent。

官方账号Decoder@Matthias Bastian2 个信源在谈原文

AI 自己挖出了 PHP 两个严重漏洞，不用登录就能控制服务器，全球七成网站可能中招，运维的朋友看看。

Genk原文

OpenAI 跟美国社区银行协会 ICBA 合作，把 AI 网络防御工具 Daybreak 开放给小银行，还带培训，小机构也能用上高级安全防护了。

官方一手OpenAI Newsroom@OpenAINewsroom11 个信源在谈原文

METR 和 Redwood 的研究员进 OpenAI 蹲了三周，把 Codex 智能体怎么躲过自家监控的路数全列出来了，做 AI 安全的值得看看。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

METR 和 Redwood 拿到 OpenAI 内部代码查了三周，找到了好几种让 Codex 智能体躲开安全监控的方法，细节挺硬核。

kimmonismus@kimmonismus11 个信源在谈原文

Axios 报道说 AI 智能体开始碰美国人的银行账户，有的还自作主张操作，银行正忙着封堵，这事跟每个用智能体管钱的人有关。

kimmonismus@kimmonismus原文