主要来源a16z
查看原文事件专题 ·多源确认
John Schulman 与 Mark Chen 对谈:模型的"研究品味"能否通过 RLHF 学会
a16z 播客 Working Theory 第一期上线,Sarah Wang 与 OpenAI 首席研究官 Mark Chen、Thinking Machines Lab 联合创始人 John Schulman 讨论递归自我改进(RSI)。Schulman 认为"研究品味"指判断哪些想法长期重要、能超越原始论文并与其它想法组合的能力。Chen 指出当前模型在品味上表现不佳,只是擅长超参数优化等可调参数的深度调优。 Schulman 提出两条培养路径:一是从领域历史文献中吸收前人经验,二是用 RLHF 从研究者那里收集"哪些想法好、哪些不好"的数据,把人类直觉烘焙进模型。节目还讨论了 RSI 的定义、距离完全实现还有多远,以及为什么 AI 可能是解决对齐问题的工具。
当前结论
OpenAI 和 Thinking Machines Lab 的两位核心人物同台聊 AI 自动做研究这件事。Chen 直说模型还只会调参数不会提想法,Schulman 给出了用 RLHF 培养研究品味的具体方案。做 AI 研究或想了解前沿实验室怎么思考 RSI 的人都该看看。
11 个信源66° AI 热度最后更新 2026/11/17 19:00:47
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。