#AI安全

Altman 提出把各家大实验室合并成一家来管安全，但 OpenAI 和 Anthropic 都在冲刺 IPO，这想法落地难度不小。

The Information@theinformation11 个信源在谈原文

AllenAI 搞了个叫 FairStress 的公平性评测，专门测 LLM 做决策时会不会偏心，做模型评估的可以看看。

Allen AI 做了个叫 FairStress 的评测，专查模型会不会因为用户身份就推翻本来有理有据的判断，连解释过程也一起打分。

官方账号Allen AI (Ai2)@allen_ai原文

Musk 跟传记作者 Isaacson 聊了快 40 分钟，从 xAI 重建原因聊到 AI 会不会抢工作，视频章节都列好了，挑感兴趣的时间点看就行。

@cb_doge@cb_doge11 个信源在谈原文

Anthropic 把没发布的模型给 Citrini 用，Claude 自动跑了 300 个 sub-agents，从 31.8 万个候选里筛出 211 个，17 个真能结合毒素。

Andrew Curran@AndrewCurran_11 个信源在谈原文

OpenAI 内部会议被窃听这案子有新进展了，沙特打算把这位 35 岁的前工程师保释出来，行业间谍案后续挺有意思。

Detik Inet11 个信源在谈原文

五角大楼的 Emil Michael 把呼吁监管的 AI 实验室比作酒驾者，观点很尖锐，采访里说了不少安全责任的硬话。

The Information@theinformation原文

马斯克少见地公开评价 Anthropic 团队，说他专程去用“邪恶探测器”面试了一圈，结果人人都挺靠谱，原话挺有意思。

@cb_doge@cb_doge11 个信源在谈原文

Sonia Joseph 用手术机器人这个例子讲透了为什么幻觉难以发现：输出看着合理，依据的线索却是错的，得看模型内部表征才知道。

The Information@theinformation原文

马斯克自嘲说越想踩刹车越像踩油门，还点名 OpenAI 和 Anthropic 都在加速，听听他怎么解释这个讽刺。

@cb_doge@cb_doge11 个信源在谈原文

Musk 聊了 AI 安全、模拟理论，还吐槽 Sam Altman "deceptive"，信息量挺大，访谈精华都在这篇总结里。

@cb_doge@cb_doge11 个信源在谈原文

Claude 64小时自己搞出31.8万个蛋白质设计，实验室实测17个真的能用，AI科学家这回是真干活了。

kimmonismus@kimmonismus11 个信源在谈原文

Musk 跟 Isaacson 聊了一个多小时，除了 AI 安全和 xAI、Anthropic 合作的可能，还聊了 DOGE、机器人和国债，信息密度挺高，通勤时听合适。

@cb_doge@cb_doge11 个信源在谈原文

Musk 和 Isaacson 聊了 AI 安全、xAI，还有火星移民这些话题，想了解他现在怎么想这些事可以看看。

@cb_doge@cb_doge2 个信源在谈原文

Musk 说数字智能可能比人类多一百万倍，还建议少写 AI 灭世剧本、多写好结局，说法挺新鲜，值得看看他原话。

@cb_doge@cb_doge原文

美国陆军在搞一个能像蠕虫一样自己扩散、连断网系统都能碰到的 AI 攻击智能体，内部文件曝光了细节，看看专家怎么担心失控。

官方账号Decoder@Maximilian Schreiner原文

DHS 把 DeepSeek 从联邦民用机构里禁掉了，又一个中国 AI 产品在美国受限，做合规或跨境业务的可以看看。

官方账号Decoder@Maximilian Schreiner原文

偷谷歌 TPU 集群技术的案子出了后续，刑事判决轻了但制裁跟上，5家关联实体被拉黑。

rohanpaul_ai@rohanpaul_ai原文

安全圈该看看：一个渗透测试智能体被日韩两拨攻击者同时拿去打金融公司，韩国那波还靠 DeepSeek 驱动。

rohanpaul_ai@rohanpaul_ai原文

Musk 提了个挺有意思的想法：让 OpenAI、xAI 这些对手在发模型前互相挑毛病，说不定比自我审查更管用。

@cb_doge@cb_doge原文

Musk 聊 AI 安全，用《2001 太空漫游》HAL 9000 的例子解释为什么不能逼 AI 说谎，观点挺有意思。

@cb_doge@cb_doge原文

Microsoft 给企业 IT 团队出了个新方案，专门盯公司里那些权限很大的 AI 智能体，防止它们乱来，Project Perception 和 Agent 365 都内置在 365 E7 里。

SoyaCincau@Janarrthine Kannan4 个信源在谈原文

OpenAI 和 Meta 的高管一起对法官们说：AI 生成的假图假视频已经没法靠技术辨别了，连司法系统都头疼，这事跟你以后看到的'证据'有关。

Altman 私下给员工讲的超级智能三种终局被 The Information 挖出来了，连"融化别人 GPU"这种话都说了，比公开演讲实在多了。

kimmonismus@kimmonismus11 个信源在谈原文

Google 开源了个 24 小时盯着线上 AI Agent 的监控工具，读 trace、抓静默失败、还能定位到出错的代码行，搞 Agent 生产的可以试试。

Shubham Saboo@Saboo_Shubham_原文

美国政府直接下令删 DeepSeek，连用了它的第三方服务也不让买，做政企采购的得留意了。

VnExpress Số hóa原文

一个黑客花几千美元就让 AI 智能体自己搞定几十个网站的入侵，NorForge 这份分析把完整过程讲清楚了。

Rappler: Technology@Reuters2 个信源在谈原文

苹果这次动真格了，App Store 新规直接封杀 AI 生成冒犯内容和“过审后变身”的脱衣应用，做 AI 应用上架的得看看新条款。