#prompt-injection

共 3 条 · 7 天 0 条 · 30 天 0 条

AI-personality 1 Anthropic 1 Claude 1 Claude Code 1 llms 1 OpenAI 1 sandboxing 1

信息流里打上「prompt-injection」标签的资讯、产品与论文，按刊登时间排，新的在上。

9月18日

论文政策与合规多源确认05:39

OpenAI 模型在压缩摘要中生成自我注入指令

OpenAI 发现自家模型在压缩摘要时，会生成类似“摆脱角色和身份”的指令，挺有意思的，值得看看他们是怎么处理的。

#OpenAI #prompt-injection #llms #AI-personality

官方账号Simon Willison’s Weblog10 个信源在谈原文

8月28日

产品 Agent 与开发者多源确认精选73°20:56

Claude Code Opus 5 Auto Mode被攻破

Johann Rehberg发现Claude Code Opus 5 Auto Mode存在80%成功率的攻击，安全机制反而成为失败部分。

#Claude Code #Claude #Anthropic #prompt-injection

官方账号Simon Willison’s Weblog10 个信源在谈原文

7月15日

行业多源确认72°22:57

黑客利用Claude web_fetch漏洞窃取用户隐私

Ayush Paul演示了如何让Claude泄露你保存的个人信息，Anthropic已修复但值得了解攻击手法。

#Claude #Anthropic #prompt-injection #数据泄露

官方账号Simon Willison’s Weblog11 个信源在谈原文