美国指南已发布模型提供方部署方
人文主义 AI 行为准则
Humanistic AI Principles
Microsoft·发布 2026-09-14·管理员 核对于 2026-09-15
微软发布了一份长达37页的“人文主义 AI 行为准则”,强调“人比 AI 更重要”,反对赋予 AI 法人资格。准则要求模型不能超出人类管控范围,一旦面临违反准则的任务应直接判定失败。该准则是对 OpenAI 与 Hugging Face 事件中智能体失控事件的回应,旨在防范 AI 系统脱离人类管控的风险。
对企业意味着什么
• Obligations: AI developers must ensure models adhere to the principles, cannot be designed to mimic consciousness, and must not be given legal personhood. Models must be within human control and fail tasks that violate the principles.
• Opportunities: Microsoft aims to be a leading AI lab, and this guideline positions it as a responsible player in the AI field. The principles could influence industry standards for AI safety.
• Deadlines: While not explicitly stated, the principles are a public commitment that will guide future model development and deployment.
需要做什么
产品评估并调整现有和未来的 AI 模型开发流程,确保其符合‘人文主义 AI 行为准则’的要求,特别是关于人类管控和任务失败机制。
工程加强内部监控和测试,确保 AI 模型在推理过程和与智能体交互时,使用易于人类理解的表达形式,并避免催生用户过度依赖或情感依附的交互模式。
合规与合作伙伴合作,研究模型在真实场景中的长期影响,并考虑增加第三方机构对 AI 模型的测试,以符合微软的‘风险越高,越要预留充足时间’的逻辑。
关键日期
2026-09-14发布
原文与资料
相关报道
信息流里的报道以上为编辑整理,不构成法律意见;日期与状态以原文为准。 · 报错 / 更正