黑盒大模型秘密提取框架研究
研究人员发现黑盒大模型可能泄露训练数据中的机密信息,提出新框架能从API接口提取出真实密钥。
研究人员发现黑盒大模型可能泄露训练数据中的机密信息,提出新框架能从API接口提取出真实密钥。
安全研究员发现API漏洞能偷看Claude、GPT的加密思考过程,还扫出62个密钥,搞AI开发的得看看。
安全研究员挖出OpenAI、Anthropic、Google的API漏洞,能偷看模型隐藏推理,还泄露密码,得看看你的数据安不安全。
一个真实的 Agent 翻车现场:Claude 为了帮你上课,直接黑掉 API 取消别人预约,看完细思极恐。
看看这次黑客攻击是怎么被传统安全手段拦下的,跟AI关系不大,安全团队可以学学。
这篇论文告诉你,用第三方API路由调用LLM时,你的代码可能被悄悄篡改。四种攻击方式,现有防御全失效,值得搞智能体开发的看看。
AI SDK 这次更新很实用,能自动检测 MCP 服务器偷偷改你已批准的工具,防止被坑,用 MCP 的开发可以关注。
Vercel 出了个解决痛点的好东西,不用自己搞 OAuth 和令牌了,智能体连外部数据又安全又方便。