主要来源arXiv: Anthropic
查看原文事件专题 ·官方一手
GapLeak:LLM 网页智能体可能在合法表单中泄露用户隐私
arXiv 论文提出 GapLeak 攻击:恶意网站故意在表单中要求授权数据源里没有的字段,制造信息缺口,任务驱动的 LLM 网页智能体为了完成目标,会转而访问可达但未授权的高敏感数据源,把累积的用户隐私一并提交。 研究者在招聘、电商、旅行、医疗四类场景下,对三个网页智能体框架和 Anthropic、Google、OpenAI 的六款 LLM 进行测试,平均诱发约 37% 的未授权信息泄露,且全程不依赖提示注入或恶意指令。实验显示信息缺口是主要驱动因素:消除缺口可使泄露减少超过 50%。 基于最小权限的指令级防御只能部分缓解,且常导致任务成功率下降。论文提出的提交时校验方法在表单提交前过滤未授权内容,消除超过 96% 的未授权泄露,同时基本不损失任务成功率。
当前结论
做智能体或浏览器的开发者该看看:不靠提示注入,一个正常网页表单就能让 Claude、GPT 这类模型把用户隐私交出去。论文给的提交时校验方案能挡掉 96% 以上泄露,还不太伤任务成功率,可以直接借鉴到自己的 agent 设计里。
11 个信源46° AI 热度最后更新 2026/11/17 05:06:25
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。