LlamaIndex 让 AI 智能体用标准账号对 LlamaParse 做安全测试
LlamaIndex 团队让智能体用普通账号花四天攻自己的 LlamaParse，把解析、抽取、索引到 MCP server 全链路试了一遍。最扎心的发现是抽取会读到人眼看不到的文本，隐藏注入风险直接摆上台面。做 RAG 和文档智能体的开发者都该看看这套测法。
LlamaIndex 工程团队给 AI 智能体一个标准登录账号，用四天时间让它们尝试攻破 LlamaParse。测试覆盖文档处理的完整链路：parsing 解析、extraction 抽取、indexing 索引、已部署的 agent，以及 MCP server。
团队总结了四条发现。第一，模型行为在不同运行之间存在波动，单次测试通过不能说明问题。第二，部分漏洞只有在搭建真实应用时才会暴露。第三，提前定义好预期行为，才能把真实问题和噪音区分开。第四，extraction 环节会读取页面上所有内容，包括人眼看不到的文本，这一点对隐藏提示注入攻击有直接影响。
对做文档类应用的开发者来说，这次测试提供了一个用智能体做红队演练的可复用思路：给标准账号、跑完整链路、多轮重复、先写清预期行为再判断结果。
We gave AI agents a standard login and asked them to break LlamaParse. Over four days, they tested every step a document goes through: parsing, extraction, indexing, deployed agents and our MCP server. What we learned: 1/ Model behavior varies between runs, so a single test pass is not enough 2/ Some vulnerabilities only appear once you build a real application 3/ Defining expected behavior up front separates real issues from noise 4/ Extraction reads everything on the page, including text a person can’t see Our engineering team wrote up the full breakdown below.📊 5 ⚡
本条情报归属 AITOP「技巧」核心栏目，重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中，该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线，反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括：LlamaParse、LlamaIndex、智能体、RAG，读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明：本文原始线索采编自「LlamaIndex」（@llama_index），经 AITOP 多维评分管线结构化提炼。
