Options(选项)是分层强化学习中的核心概念,指智能体在任务中可复用的高层技能或子策略,让决策系统不必逐步规划每个动作,而是像调用“招式”一样组合执行;这个词有时也被借喻到 AI 政策领域,如“可退出的选项”。近期关于 Options 的讨论,一方面集中在用大模型与表示学习自动发现选项的技术进展,另一方面延伸到国家层面的 AI 战略取舍。
Options 在强化学习中的新进展
从技术概念到政策隐喻:可退出的 AI 选项
当前焦点与观察点
围绕 Options 的讨论呈现两条线索。技术侧,选项自动发现(Wayfarer 一类方法)正尝试把传统分层 RL 的手工技能设计,替换为由表示学习驱动的端到端方案,值得观察其在真实机器人与长时序任务上的泛化能力;政策侧,“可退出选项”作为一种务实的国家 AI 策略框架,正在替代“完全主权”叙事。两条线索的共同点是:在不确定环境中,保留可切换、可组合的选择权,往往比押注单一最优方案更稳健。后续可关注选项方法与大规模基础模型结合后,能否在开放任务中形成真正可复用的技能库。