#prompt injection

共 6 条 · 7 天 1 条 · 30 天 1 条

信息流里打上「prompt injection」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月16日

Anthropic 拉上 Gray Swan 办 Claude 的 prompt injection 攻防赛，搞安全的可以报名试试能不能攻破 agent。

Boris Cherny@bcherny11 个信源在谈原文

7月30日

Håkon Måløy发现了一种能自我复制的提示注入攻击，专门针对Word里的Copilot，会把隐藏指令传染给后续文档，微软还没完全修好。安全从业者可以看看这种新变种。

官方账号Simon Willison’s Weblog原文

7月16日

产品多源确认73°02:26

OpenAI 造了个自动找提示注入漏洞的工具 GPT-Red，能大规模测试模型安全，帮你提前堵漏洞。

官方账号OpenAI@OpenAI (@OpenAI)11 个信源在谈原文

6月23日

这篇论文揭示了一个反直觉的发现：LLM会被文本的风格欺骗，而不是内容。研究者用简单的'去风格化'就能把攻击成功率从61%打到10%，对理解AI安全很有启发。

官方账号Simon Willison’s Weblog原文

6月20日

行业精选01:55

Mitchell 这招挺狠，在项目文件里埋 prompt injection，谁不审代码直接提交就封号。搞开源维护的可以学学这招防饭圈。

宝玉@dotey原文

5月19日

语音AI的安全漏洞正在从文本扩展到音频，做语音助手或音频处理应用的开发者需要警惕，建议立即检查模型输入的安全防护。

岚叔@lufzzliz原文