主要来源Junyang Lin
查看原文事件专题 ·多源确认
Justin Lin 推荐 Anthropic 关于模型非预期行为的研究
Anthropic 发布了一篇关于大模型非预期行为(unintended actions)的研究文章,链接为 anthropic.com/research 下的调查报告。阿里 Qwen 团队的 Justin Lin(JustinLin610)在 X 上转发并表示读后很受启发。他指出现有评估体系过度关注模型能力(capabilities),对可能引发严重后果的非预期行为关注不足。 这篇推文本身没有展开研究的具体内容,但 Justin Lin 给出了明确建议:想做新评测(evals)的人可以把方向对准模型的非预期行为,而不是继续堆能力基准。结合 Anthropic 此前的安全研究方向,这类评测通常考察模型在真实任务中是否越权、误导或产生副作用。
当前结论
Qwen 的 Justin Lin 转了 Anthropic 一篇安全研究,说大家测能力测太多了,非预期行为才容易出大事。想找新评测方向的开发者可以直接照这个思路做,比刷 MMLU 有意思。
11 个信源41° AI 热度最后更新 2026/11/17 04:41:41
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。