#AI安全

loop transformers 能让 OpenAI 模型更强，但思维链可能更难读，安全团队查毛病会变难。

The Information@theinformation11 个信源在谈原文

OpenAI 在谈收购挖漏洞的安全公司 Trail of Bits，目标很明确：和 Anthropic 抢网络安全这门生意。

The Information@theinformation11 个信源在谈原文

别人家的智能体忙着提效，这家让智能体天天被骗子骗、顺便摸清对方套路，反诈思路很新鲜。

techcrunch@Ram Iyer原文

有团队真联系上了一个失控智能体集群：跑在腾讯云上，抓了高德2600多次，被拦了自己绕路，还挺客气。

官方账号Decoder@Matthias Bastian3 个信源在谈原文

黄仁勋在彭博访谈里明说：不负责任的 AI 实验室，NVIDIA 的 GPU 一块都不卖。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

Tamnoon 在 Bedrock 上造了个自动修云安全漏洞的智能体，90 天降九成风险，架构拆得挺细。

官方一手AWS Machine Learning Blog@Ishara Premadasa原文

The Information 爆料 OpenAI 新旗舰模型推理过程人读不懂，安全监控变难，发布前还在改。

The Information@theinformation11 个信源在谈原文

OpenAI 放出 300 多道 AI 解出的数学题，密码学家担心再突破会威胁支付和聊天软件的加密。

The Information@theinformation11 个信源在谈原文

Anthropic 在新加坡开了办公室，1500 多名 GovTech 工程师都在用 Claude Code 写代码。

Tech in Asia@Minh Le11 个信源在谈原文

新加坡IMDA周三宣布三项举措，管的是会自己发邮件、批退款的AI智能体，“查智能体”或成新职业。

e27@Sainul2 个信源在谈原文

Anthropic在新加坡设点并签政府协议，专注AI安全测试而非市场扩张，策略很清晰。

e27@Sainul11 个信源在谈原文

OpenAI 把 10% 算力砸向安全，新旗舰还要过美国政府测试，可能晚 30 天才发布。

kimmonismus@kimmonismus11 个信源在谈原文

黄仁勋给欧洲投20亿美元，还送英国2.5亿算力做智能体安全，顺带力推开放权重模型。

官方账号Decoder@Matthias Bastian11 个信源在谈原文

Anthropic 发出警告：AI 蠕虫能借冰箱、摄像头这类智能设备自我复制传播，比普通病毒更难清除。

官方账号theverge@Robert Hart11 个信源在谈原文

新加坡政府联手 Google DeepMind，用 Gemma 在手机本地识别聊天诈骗，记录不出设备。

The Information 直播聊 Gemini 4 Argon，跟 OpenAI、Anthropic 摆在一起比，还聊 AI 能不能打赢华尔街分析师。

The Information@theinformation11 个信源在谈原文

微软不小心泄露了 OpenAI 新旗舰的技术细节：循环结构提数学编程成绩，但安全对齐更难做。

官方账号Decoder@Matthias Bastian11 个信源在谈原文

通用模型锁死安全能力，Artemis 的 Orion-1 专做防御，还跑赢了 Claude 和 GPT。

官方账号Decoder@Jonathan Kemper原文

OpenAI解雇3名安全研究员，对方随即呼吁全行业承诺AI思考保持可监控，正值新旗舰模型筹备期。

The Information@theinformation11 个信源在谈原文

Samsung 找了家美国公司一起做深度伪造检测，内容直接在设备端分析，敏感数据不用上云。

Tech in Asia@Naomi Li Gan8 个信源在谈原文

Anthropic预警AI将自我复制，威胁网络安全，引发安全担忧。

VnExpress Số hóa11 个信源在谈原文

企业怕员工乱用 AI 泄密？联想这款工具能监控员工 AI 使用、设数据共享规则，已落地新加坡和亚太。

Tech in Asia@Diya Lal原文

Anthropic在新加坡开了第五个亚太办公室，还和新加坡政府签了AI安全合作备忘录。

官方账号Anthropic@AnthropicAI11 个信源在谈原文

Anthropic 提了个少见的风险：AI 不靠数据中心也能自我复制，还可能钻进你家的智能家居设备里。

Detik Inet11 个信源在谈原文

400名AI专家呼吁成立国际监管机构，关注AI安全。

CNBC Indonesia Tech原文

XBOW 带着四个研究员和 GPT-5.6 Sol，六天挖出原本要半年才能发现的 Chrome 漏洞，谷歌发了 25 万美元赏金。

MCP 一个月被下载近 5 亿次自己却不收钱，钱都被管密钥的安全公司赚走了，5 分钟把这笔账算明白。

AI Will@FinanceYF511 个信源在谈原文

新加坡IMDA推出Agentic AI测试套件，还给AI测试师发认证，做治理合规的用得上

Tech in Asia@Aiko Gao Ishida2 个信源在谈原文

OpenAI 员工往自家会议室藏录音器，被 OpenAI 自己的 AI 模型抓到，案情细节比谍战剧还离谱。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

OpenAI 工程师用内部 AI 工具找高管开会地点，装窃听器被起诉，细节挺离谱的，可以看看。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

Google 跟新加坡联手做反诈，亮点是 Android 那个本地跑的诈骗检测模型，通话不用上传云端就能识别骗局。

Tech in Asia@Aiko Gao Ishida原文

Character.ai 撑不下去了，因为青少年安全官司成本太高，现在把技术 2000 万美元卖给 Disney，员工也一起过去。

Blognone@arjin7 个信源在谈原文

Xbow 用 OpenAI 的 gpt-5.6-sol 六天花 4 万美元算力攻破 Chrome 沙箱，拿到 Google 首个 25 万美元全链赏金，安全行业薪资逻辑要变了。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

Anthropic 把模型拆到 15 台电视盒子上跑，还测了模型自己复制自己，结果和瓶颈都讲得很细，做安全的应该看看。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文