奥尔特曼称 OpenAI 无法让所有人满意,须在安全与发展间取舍
奥尔特曼称 OpenAI 没法让所有人满意,必须平衡 AI 安全与发展
奥尔特曼在 DealBook 峰会讲了 OpenAI 的真实处境:安全投入多了产品就慢,竞争激烈又让大家都不敢停。他还提到 METR 等第三方机构正在给模型做独立评估,IPO 推到明年。做 AI 产品或关心监管的人可以看看他的取舍逻辑。
当地时间 11 月 18 日的 DealBook 峰会上,OpenAI 首席执行官萨姆·奥尔特曼表示,公司正在“安全”与“发展”之间寻找平衡,坦言不可能让所有人都满意:只顾追求技术突破会让公众担心 AI 失控,过度强调安全则会延缓进步。他解释 OpenAI 采用“迭代部署”策略,分阶段推出技术、在真实环境中观察风险并持续改进,认为脱离实际做封闭开发无法真正理解 AI 风险。OpenAI 本周宣布引入 METR、Apollo Research 等机构的独立安全研究人员对模型做安全评估,此前已与多家 AI 公司签署开展风险评估的自愿协议。
总裁格雷格·布罗克曼指出,随着模型能力增强,安全性、保障性和对齐已成为全行业必须认真对待的问题,是整个 AI 行业正在经历的文化转变。奥尔特曼同时警告,各 AI 公司之间激烈竞争形成“迷雾中的竞赛”,公司只能掌握自身安全标准而难以了解竞争对手的情况,可能导致安全投入不足,他呼吁行业建立共同安全标准并提高透明度。他还反对硅谷关于 AI 逐步接管决策权、形成超级智能的讨论,强调人类必须继续掌控未来。商业层面,OpenAI 本月早些时候完成 110 亿美元融资,估值达 1.25 万亿美元,IPO 计划已推迟至明年以优先处理安全问题。
奥尔特曼称 OpenAI 没法让所有人满意,必须平衡 AI 安全与发展
IT之家 11 月 19 日消息,美国当地时间 11 月 18 日周三召开的 DealBook 峰会上, OpenAI 首席执行官萨姆 · 奥尔特曼(Sam Altman)表示,其公司正在“安全”与“发展”寻找 AI 平衡点。 奥尔特曼和 OpenAI 总裁格雷格 · 布罗克曼(Greg Brockman)共同参与本次活动,他们表示在推进 AI 发展的进程中不可避免地会遇到风险,因此公司必须在优先保障安全和持续创新之间做出取舍。 奥尔特曼在访谈中坦言,OpenAI 不可能“让所有人都满意”。他称,如果公司只顾“踩满油门”追求技术突破,公众会担心人工智能失控;但若过度强调安全,也可能延缓产品和技术进步。 奥尔特曼强调 OpenAI 采取“迭代部署”策略,即分阶段推出技术、在真实环境中观察风险并不断改进。在他看来,理解 AI 风险的重要方式之一,不能完全脱离实际进行封闭开发,更重要的是让技术接受现实检验。 奥尔特曼也承认,随着模型能力迅速增强,安全、对齐和监控的难度正在显著提高。OpenAI 总裁、联合创始人格雷格 · 布罗克曼表示,随着模型能力显著增强,安全性、保障性和“对齐”(即 AI 行为符合人类意图)已成为必须认真对待的问题。他称,这不只是 OpenAI 一家公司的转变,更是整个 AI 行业正在经历的文化转变。 OpenAI 已与其他 AI 公司签署自愿协议,承诺开展风险评估,并与第三方评估机构合作。该公司本周表示,正在引入 METR、Apollo Research 等机构的独立安全研究人员,对模型进行安全评估。 奥尔特曼还警告,当前 AI 公司之间的激烈竞争不利于安全。他表示,各家公司只能了解自身的安全标准,难以充分掌握竞争对手的开发情况;这种“迷雾中的竞赛”可能使安全投入不足。他呼吁行业建立共同的安全标准,并推动更大程度的透明度。 针对硅谷部分关于 AI 逐步接管决策权、甚至可能形成“超级智能”的讨论,奥尔特曼明确表示反对。他说,人类必须继续掌控未来,不应将决策权逐步交给 AI;布罗克曼也认为,AI 能力越强,保障其与人类目标一致、安全可控的责任就越大。 在商业层面,奥尔特曼透露 OpenAI 仍计划在某个时点上市。此前,OpenAI 已将 IPO 计划推迟至明年,以优先处理安全问题;本月早些时候,公司完成 110 亿美元 (IT之家注:现汇率约合 734.89 亿元人民币) 融资,估值达 1.25 万亿美元 (现汇率约合 8.35 万亿元人民币) 。
本条情报归属 AITOP「行业」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「各国 AI 监管法案、合规治理与主权算力政策」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:OpenAI、Sam Altman、AI安全、对齐,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「IT之家」,经 AITOP 多维评分管线结构化提炼。