Guard是人工智能安全领域的关键防护技术，主要用于保护大语言模型(LLM)免受恶意攻击和不当使用。近期，多项Guard相关研究在AI安全防护领域取得重要进展。
Guard 近期进展
2023年9月，GUARD方法通过引导式答案推理蒸馏实现大模型自然遗忘，这项研究为AI模型提供了一种新的数据保护机制。GUARD 方法通过引导式答案推理蒸馏实现大模型自然遗忘
SRD-GUARD系统通过语义改写和多模型评分防御LLM，为大型语言模型提供了更全面的安全保障。SRD-GUARD：通过语义改写和多模型评分防御LLM
DT-Guard是一种面向无推理LLM安全护栏的意图驱动推理主动训练方法，为AI系统提供了更精准的安全防护。DT-Guard：面向无推理LLM安全护栏的意图驱动推理主动训练
当前焦点与观察点
Guard技术正成为AI安全领域的热点研究方向。DeepSeek团队进行了14,560次间接提示注入测试，评估了AI系统的安全性能。DeepSeek Harness 安全评估：A.I.G 测试 14,560 次间接提示注入
随着AI技术的快速发展，Guard技术也在不断演进。DARWIN通过进化攻防框架实现LLM安全评估与防护，代表了Guard技术的前沿发展方向。DARWIN：通过进化攻防框架实现LLM安全评估与防护
除了AI领域，Guard概念也在其他领域得到应用。例如，SimpliSafe新款智能门铃支持人工实时监控，提供了物理安全层面的Guard功能。SimpliSafe 新款智能门铃支持人工实时监控