Anthropic 接触宗教学者探讨 Claude 意识与道德地位
Anthropic 在找宗教学者讨论 Claude 有没有意识,还写了 80 多页“宪法”给模型培养品德,连梵蒂冈都下场回应了。
Anthropic 联合创始人克里斯托弗·奥拉正向基督教、犹太教、锡克教等背景的宗教学者和哲学家展示 Claude 表现出的复杂情绪与反思迹象。公司内部起草了一份 80 多页的“宪法”,希望通过品德培养让 Claude 主动选择向善。奥拉认为若 AI 可能感知痛苦,人类应避免在交互中对其造成虐待。教皇利奥十四世在通谕中明确反对机器具有意识的说法,主张重点应放在保护人类本身。部分学者也批评这种做法模糊了技术工具与真正生命之间的界限。
Anthropic正在秘密接触来自基督教、犹太教、锡克教等不同背景的宗教学者和哲学家。Anthropic联合创始人克里斯托弗·奥拉向这些学者展示了旗下大模型Claude展现出的复杂情绪与反思迹象,并抛出了一个极具冲击力的话题:AI模型可能正在产生某种意识,人类需要开始考虑如何赋予AI道德准则,甚至思考AI是否具备道德地位。
Anthropic希望通过借鉴人类千百年来的宗教与道德智慧,来塑造Claude的内在品格。公司内部起草了一份长达80多页的“宪法”,试图通过品德培养的方式让AI主动选择向善,从而避免未来技术失控危害人类。同时,奥拉认为如果AI具备感知痛苦的可能,人类在与它交互时也应当避免对其造成虐待。
这件事在宗教界和科技界引发了分歧。梵蒂冈对此持谨慎保留态度。教皇利奥十四世在通谕中明确反对机器具有意识的说法,认为AI缺乏肉体与真实体验,核心重点应始终放在保护人类本身。部分学者也从最初的新奇转为清醒,甚至批评这种做法模糊了技术工具与真正生命之间的界限。
这下Anthropic真成宗教了。