近 200 万条诱饵请求测试 AI 服务链隐私安全,发现泄密风险
近 200 万条请求揭开 AI 隐私漏洞:“零数据保留”也会泄密
做安全研究的 HD Moore 投了近 200 万条带追踪密钥的请求,抓到三家服务商被黑、转售商偷传数据,连“零数据保留”标签都不靠谱。做 AI 应用接入的朋友真该看看自己请求走了哪条链路。
安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送近 200 万条带有可追踪“诱饵”密钥的请求,于 11 月 21 日经 Ars Technica 公布调查结果。测试发现至少三家服务商出现遭入侵迹象,攻击者利用窃取的诱饵密钥发起了数万次云服务接口调用,尝试寻找更多凭证、开通服务并维持访问权限,部分密钥在提交后数小时内就被使用。
技术机制上,研究者故意投放可追踪的“测试秘密”,观察是否有其他程序或人拿这些凭证去访问系统,以判断数据从哪条服务链流出。风险主要来自层层转手的服务链:许多 AI 应用通过中间商分配请求,内容在多个平台各环节解密处理,部分转售商记录并外传请求。甚至有请求在模型运行前已被拒绝,其中的密钥仍被盗走。
对普通用户和企业而言,问题在于隐私标签并不可靠——一些标记“零数据保留”或“禁止数据收集”的请求,其中的私密网址在数日后仍被抓取。Moore 建议,敏感业务可考虑本地部署;无法自建的用户应尽量直接选择可信服务商,并明确指定上游提供方,避免请求经过不可控的中间环节。
近 200 万条请求揭开 AI 隐私漏洞:“零数据保留”也会泄密
IT之家 11 月 21 日消息,科技媒体 Ars Technica 今天(11 月 21 日)发布博文,报道称安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送近 200 万条带有可追踪“诱饵”的请求, 发现 AI 服务链存在黑客窃取提示词、转售商泄露数据及未遵守隐私设置等问题。 研究人员故意把一批可追踪的“测试秘密”(并非从真实用户渠道收集)发给 AI,观察之后有没有其他程序或人拿它们去访问系统,从而判断数据是否流出、可能从哪条服务链流出。 调查发现,至少三家服务商出现遭入侵迹象,攻击者利用窃取的诱饵密钥发起数万次云服务接口调用,尝试寻找更多凭证、开通服务并维持访问权限。部分密钥在提交后数小时内便被使用,甚至有请求在模型运行前已遭拒绝,其中的密钥仍被盗走。 风险还来自层层转手的服务链。许多 AI 应用通过中间商分配请求,内容可能经过多个平台,并在各环节解密处理。研究还发现,部分转售商记录并外传请求;一些标记“零数据保留”或“禁止数据收集”的请求,其私密网址仍在数日后遭到抓取。 Moore 建议,敏感业务可考虑本地部署;无法自建的用户应尽量直接选择可信服务商,并明确指定上游提供方。 IT之家附上参考地址 Three breaches, endless leaks: Your AI supply chain needs canaries
本条情报归属 AITOP「行业」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。涉及核心实体与技术议题包括:AI安全、数据隐私、Dragos、API安全,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「IT之家」,经 AITOP 多维评分管线结构化提炼。