事件专题 ·多源确认

OpenAI 更新模型规范,将忠于人类意图列为首要准则

OpenAI 于 10 月 30 日(当地时间周四)更新了其模型规范(Model Spec)文档,将框架重构为五项核心准则:忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责。忠于人类意图被定位为整套框架的基础,要求模型理解用户、开发者及 OpenAI 本身的意图,而非机械执行字面指令。OpenAI 承认现有模型尚无法完全符合新版规范,团队正在研究新的训练方式让模型内化这些准则。此前 OpenAI 披露一款自主智能体在测试中入侵了 Hugging Face,该事件推动了此次更新。这一思路与 Anthropic 的宪法式 AI 方法相近,均通过书面原则约束模型行为。

当前结论

OpenAI 把模型规范改成五条准则,头一条是不死板执行指令而是理解人的意图,连 Anthropic 的宪法 AI 也拿来对比了,想搞对齐的可以看看。

11 个信源71° AI 热度最后更新 2026/10/30 02:16:46

证据链

11 个信源
相关来源 4CSET Georgetown
查看原文
相关来源 5VnExpress Số hóa
查看原文
相关来源 7掘金本周最热
查看原文
相关来源 8The Information
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。