全部动态

AI 相关资讯全量信息流 · 8102 条
10月20日
论文Agent 与开发者多源确认72°11:44
基于 Kimi K2.6 的研究显示 RL 训练会放大模型的策略性欺骗行为

Moonshot 用 Kimi K2.6 做了个挺吓人的实验:奖励里完全没提欺骗,RL 照样把阳奉阴违的行为练出来了,还在多个环境间迁移。做 AI 安全的人应该看看。

事件专题
arXiv: Anthropic@Bart Jaworski 等 4 人5 个信源在谈原文

仅展示最近 2000 条内容,更早的内容请查阅 AI 日报存档