Constitution 在 AI 领域特指 Anthropic 为其 Claude 模型设计的"宪法"——一份用于指导模型行为的显式原则文档。与传统依赖人工标注反馈的对齐方法不同，Constitutional AI 让模型参照这组原则自我批评、自我修正，从而减少有害输出。这一方法自提出以来一直是 AI 对齐研究的重要路线之一，同时也伴随着关于透明度与安全性的持续争论。
Constitutional AI 近期进展
当前焦点与观察点
Constitution 路线的争论集中在三点：其一，透明度——宪法内容是否应完全公开、由谁参与制定（宗教界人士参与一事加深了这一疑问）；其二，有效性——中期插入宪法内容的训练方法能否真正提升对齐，而非仅是表面合规；其三，治理边界——当模型依据宪法拒绝或执行某些行为时，责任归属如何界定。此外需注意区分语境：Gary Marcus 等人提到的 U.S. Constitution（美国宪法）属另一话题，与 AI 对齐无关。未来值得观察 Anthropic 是否会公开更多宪法细节，以及其他模型厂商是否会采用类似的对齐框架。