#GPT-Red

共 9 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「GPT-Red」标签的资讯、产品与论文，按刊登时间排，新的在上。

7月17日

模型中美对照官方一手77°02:53

OpenAI 详解 GPT-Red：自动红队模型以84%胜率击败人类

OpenAI 搞了个 GPT-Red 自动红队模型，提示注入赢人类 84% 对 13%，还发现了 Fake Chain-of-Thought 攻击。

#GPT-Red #OpenAI #GPT-5.6 Sol #提示注入

官方一手marktechpost@Asif Razzaq11 个信源在谈原文

7月16日

模型中美对照多源确认精选11:39

OpenAI发布内部网安红队模型GPT-Red，自动化攻击模拟提升鲁棒性

OpenAI搞了个内部红队模型GPT-Red，自动找漏洞，攻击成功率从95%降到10%以下，效果很实在。

#GPT-Red #OpenAI #GPT-5.3 #GPT-5.6 Sol

IT之家11 个信源在谈原文

模型中美对照多源确认73°04:20

OpenAI用AI攻击自家AI，GPT-Red成功率84%远超人类13%

OpenAI让AI自己找自己的漏洞，成功率84%比人类高6倍多，还直接用来加固新模型。

#OpenAI #GPT-Red #GPT-5.6 Sol #红队测试

官方账号Decoder@Matthias Bastian11 个信源在谈原文

模型中美对照多源确认精选73°03:54

GPT-Red：通过自动化红队测试提升模型安全性

OpenAI搞了个自动红队GPT-Red，专门找自家模型的提示注入漏洞，部署前先修好，安全又可靠。

#OpenAI #GPT-Red #提示注入 #红队测试

官方账号Greg Brockman@gdb11 个信源在谈原文

模型中美对照多源确认73°02:56

GPT-Red 通过对抗训练提升 GPT-5.6 的提示注入防御能力

OpenAI 用 GPT-Red 对抗训练 GPT-5.6，让模型更抗提示注入，安全提升很实在。

#GPT-Red #GPT-5.6 #OpenAI #提示注入

elvis@omarsar011 个信源在谈原文

产品多源确认73°02:26

OpenAI 推出 GPT-Red 自动化红队测试系统

OpenAI 造了个自动找提示注入漏洞的工具 GPT-Red，能大规模测试模型安全，帮你提前堵漏洞。

#OpenAI #GPT-Red #prompt injection #AI安全

官方账号OpenAI@OpenAI (@OpenAI)11 个信源在谈原文

模型中美对照多源确认精选02:25

OpenAI 发布 GPT-5.6 Sol，对抗 prompt 注入失败率降低 6 倍

OpenAI 刚晒出 GPT-5.6 Sol，抗 prompt 注入比四个月前强了 6 倍，安全能力大幅提升。

#GPT-5.6 #GPT-Red #OpenAI #AI安全

官方账号OpenAI@OpenAI (@OpenAI)11 个信源在谈原文

模型中美对照多源确认02:24

OpenAI用AI agent改进下一代模型安全对齐

OpenAI说他们用AI agent让模型自己变安全了，通过GPT-Red项目，下一代模型会更可靠。

#OpenAI #GPT-Red #AI agent #AI安全

官方账号OpenAI@OpenAI (@OpenAI)11 个信源在谈原文

产品官方一手01:14

GPT-Red：利用自我对弈提升AI鲁棒性

OpenAI搞了个新系统叫GPT-Red，让模型自己打自己来找出漏洞，专门防提示注入这类攻击，挺实用的。

#GPT-Red #OpenAI #AI安全 #提示注入

官方一手OpenAI Blog11 个信源在谈原文