AI安全是指围绕人工智能模型与系统的风险防控工作，涵盖权限管理、滥用防范、安全评估与行业监管等环节。随着大模型和AI代理能力快速提升，AI安全已从纯技术议题扩展为政府监管、企业自律与工程工具三条线并行推进的全球议程。
AI安全近期进展
当前焦点与观察点
当前AI安全的讨论集中在三处：一是自律协议能否替代强制监管，FTC听证或将释放信号；二是AI代理普及后，权限控制、测试引擎与安全评估器正形成新的工具链，有报道称AI公司计划将安全评估器直接嵌入产品；三是模型蒸馏等攻击手段表明，防护机制需随模型能力持续更新，OpenAI在雅加达举办的研讨会也强调了这一点。后续可重点跟踪自律协议的执行细则，以及各国监管措施的落地节奏。