对抗性攻击是一种通过故意制造干扰来破坏系统正常运行的攻击方式。近年来，对抗性攻击在人工智能领域引起了广泛关注，尤其是在机器学习模型的安全性和可靠性方面。以下是近期对抗性攻击领域的一些进展。 GNN-based KGQA Query-Side Attacks 原文标题 - arXiv cs.AI 2023年8月，研究人员提出了一种基于图神经网络的知识图谱问答查询端攻击方法。该方法能够通过构造特定的查询来欺骗KGQA系统，导致系统返回错误的结果。 Acoda：对抗性代码混淆框架防御LLM分析 原文标题 - arXiv: DeepSeek 2023年6月，Acoda框架被提出作为一种防御对抗性代码混淆的解决方案。该框架通过引入代码混淆技术来提高语言模型（LLM）的安全性，从而抵御对抗性攻击。 RADAGAS & RefleXQLi：用LLM生成对抗性SQL注入攻击 原文标题 - arXiv: DeepSeek 2023年5月，研究人员展示了如何利用LLM生成针对SQL注入的对抗性攻击。这种方法不仅能够生成有效的SQL注入代码，还能避免常见的防御机制。 当前焦点与观察点 对抗性攻击的研究目前集中在如何提高机器学习模型的安全性。随着对抗性攻击技术的不断进步，研究人员正努力开发新的防御策略。同时，对于LLM和其他人工智能技术的安全性问题也日益受到重视。