AI security research（AI 安全研究）是研究人工智能系统自身安全与滥用风险的技术领域，涵盖提示注入攻击、模型越狱、前沿模型风险评估与安全部署等内容。随着大模型能力快速提升，这一领域正从学术界的小众议题，演变为前沿实验室、密码学家和政策机构共同关注的焦点。
AI security research 的近期进展
当前焦点与观察点
目前 AI security research 的争议集中在三点。其一，提示注入等架构性弱点尚无彻底解法，业界在"能不能修"这一问题上仍存分歧；其二，红队测试和前沿模型评估的标准化程度不足，不同实验室的结论难以横向比较；其三，政策机构正逐步介入，例如英国 GDS 在 2026 年 5 月 17 日就 NHS 退缩开源一事发表意见，显示政府采购与开源、安全之间的关系已被纳入监管讨论。
未来值得观察的方向包括：安全研究结论能否转化为可验证的发布标准、传统安全社区与 AI 实验室的协作是否制度化，以及各国监管机构如何把前沿模型风险评估写入合规要求。总体来看，AI security research 正处在从"发现威胁"走向"建立制度"的过渡期。