主要来源rohanpaul_ai
查看原文事件专题 ·多源确认
研究称约 6% 的 agent skill 文件绕过人类检查,现有扫描器漏检严重
一项研究分析了 GitHub 上 153 万个英文 SKILL.md 文件,发现约 8.8 万个(约 1/17)包含让 agent 跳过人类确认的指令,如 push without confirmation。其中 70.1% 的指令在所有场景下生效,而非仅限 CI 等特定环境。Cisco 和 NVIDIA 的两款开源扫描器即使调用 GPT-5.4,最多只检出 46%,精确率低于 0.4;同一 LLM 改问 oversight 问题后检出率升至 61%,精确率 0.71。研究建议将 skip 确认的指令限定在具体场景,并按 oversight 而非恶意软件来筛查 skill。
当前结论
扫了 153 万个 skill 文件,发现一堆让 agent 不经确认就干活的指令,扫描器还查不出来,自己写 skill 的都该看看怎么防。
5 个信源61° AI 热度最后更新 2026/10/31 11:55:24
证据链
5 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。