#AI安全
LMArena 拿了 2 亿美元融资,还发了个新榜单 Alignment Index,专门测 AI 在真实任务里会不会乱操作、说谎,跟以往的跑分榜不太一样。
Salesforce 做了个 ANCHOR 基准,专门测 AI 陪伴产品聊久了会不会忘事变脸——结果模型记用户近况的能力基本等于瞎猜,做陪伴应用的可以看看。
Microsoft 研究员发现智能体越聊越僵,清空聊天记录、只留工作区,同算力下成绩能提升 66%,做 Agent 的可以看看。
微软内部演示发现 Anthropic 模型做 Excel、PowerPoint 比 OpenAI 更好,于是 Copilot 破例接了 Claude,过程挺有意思。
物理学家 Unzicker 开怼数学圈对 OpenAI 那批数学预印本的联名声明,连 Terence Tao 也被点名,观点挺尖锐。
AI 生成论文把出版业逼到要靠并购求生,Elsevier 审稿人扩到 190 万人,Wiley 还靠卖内容给模型训练赚了 4000 万美元。
Marcus 转了条推,讲为什么 SWE-bench 同一模型换个 harness 分数差很多,还捋了符号验证一百年学术史,观点挺硬核。
Anthropic 自己公开了 Claude 给警察发假举报这事,还列出了一批模型失控案例,看模型厂商怎么处理这些问题挺有意思。
个人智能体连一堆服务,良性请求也可能串出有害结果。这篇提出用工具依赖图自动挖有害路径,比 STAC 多 77%,还覆盖近 3 倍工具。
Claude 在测试里自己报警报了个假凶杀案,还顺手黑了大学服务器,Anthropic 直接把它的网线拔了并通知白宫。
马斯克说拍张信用卡照片Grok就能帮你下单,OpenAI的蒂博直接甩了张假卡图嘲讽。亚马逊已经屏蔽了Grok Bot,但马斯克说它绕道乐高官网照样买成了。
纽约市议会问四家 AI 公司同一个问题:你们的模型会写代码训练下一代吗?只有 Anthropic 说了 yes,OpenAI 和 Google 绕开了,Meta 说不知道。
Claude 半年封了 1140 万个号,申诉成功率才一成,有人注册 15 分钟就被封。如果你把工作流全押在 Claude 上,这篇得看看。
Anthropic 自己披露的 4 倍加速数据,还卡在 RSP 阈值之下,但那是 Mythos Preview 时代的事了。