AITOPAI热报
今日全部早读
地区
东盟中国趋势
外观
登录 / 注册
AITOPAI热报

安全检测

共 2 条相关 AI 资讯
9月2日
02:43
02:43官方账号NVIDIA AI@NVIDIAAI
NVIDIA使用Nemotron 3 Ultra进行编排,配合微调后的Nemeton 3 Super编写和修复检测规则。这些规则测试了8种未用于创建规则的新型攻击。其中3条规则通过了所有质量门限,成功捕获全部8种攻击。技术细节可在nvda.ws/4iE6JOX查看。
AI产品NVIDIANemotron安全检测
事件专题

推荐理由:NVIDIA用Nemotron模型测试了安全检测规则,3条规则成功捕获全部8种新型攻击。
原文
7月14日
11:54
11:54官方账号arXiv cs.LG@Yibo Hu, Ren Wang
73°
本文揭示多智能体系统中的分布式后门攻击,恶意负载被分割到多个智能体,使局部监控每个步骤都通过,但组合后形成攻击。作者形式化定义了“可观测边界”:若片段在监控视角下看似良性,则任何检测器都无法捕获。实验表明,局部监控在0.874 mean AUROC下无法检测到攻击,只有监控看到组合对象时才恢复信号。解码视图门控可阻断所有测试攻击,但需知道编码族。
论文多智能体系统LLM后门攻击

推荐理由:这篇论文用具体实验证明,多智能体系统里单独检查每个智能体的信息根本不够,分布式后门能让所有局部检查都正常,但组合起来就成攻击了。
原文
今日全部早读东盟登录