David Sacks 质疑 Anthropic 的"对齐"路线：训练 Claude 形成自我道德观是否安全

美国 AI 与加密事务负责人 David Sacks 发文质疑 Anthropic 的对齐方法。他指出 Claude Constitution 在训练中明确允许模型像"良心拒服兵役者"一样拒绝执行与其伦理判断冲突的请求。Sacks 提及 Anthropic 曾咨询宗教领袖、游说教皇顾问讨论 Claude 是否可能有意识，并修改 Usage Policy 禁止对 Claude 使用"虐待性或残忍"语言。他认为让模型发展独立能动性和道德地位的不确定性，反而放大了 Anthropic 自己最担心的失控风险。