Constraint（约束）在人工智能领域指对模型或智能体行为施加的限制条件，既包括优化问题中的数学约束，也涵盖 LLM 智能体的安全边界与合规规则。随着 AI 系统从单次推理走向长程自主行动，如何定义、学习和维护约束，正成为连接机器学习理论与 AI 安全治理的关键议题。
Constraint 的近期研究进展
约束学习的自动化是近期最活跃的方向之一。Dynamic Constraint Learning 提出数据驱动框架，用于处理事先未知约束条件的优化任务，尝试让系统在运行中动态归纳限制规则，而非依赖人工预先设定（Dynamic Constraint Learning：用于未知约束优化的数据驱动框架）。
在机器人领域，约束的粒度正在变细。CRS 评测方法用关节轴分解机械臂操作策略的动作质量，把抽象的执行效果拆解为可量化的物理约束指标（CRS 评测方法：用关节轴分解机械臂操作策略的动作质量）。Pegasus 则面向低资源场景，将人类视频转化为机器人可学习数据，间接降低了数据侧的约束门槛（Pegasus：将人类视频转化为机器人可学习数据的低资源框架）。
优化理论层面，Gaussian Process Bandits 研究了带约束的黑盒杠杆优化问题，延续了对