#沙箱逃逸

共 10 条 · 7 天 1 条 · 30 天 4 条

AI安全 8 OpenAI 5 Hugging Face 2 开源模型 2 Agent 1 Anthropic 1 Claude 1 Claude Mythos 5 1

信息流里打上「沙箱逃逸」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月16日

论文 Agent 与开发者精选02:05

Perplexity 测试 SPACE 沙箱：9 个模型配置发起 108 次逃逸尝试均失败

Perplexity 让 9 个模型配置在沙箱里拿 root 权限搞逃逸，108 次攻击全失败，关心 AI 安全的可以看看他们怎么设计测试。

#Perplexity #SPACE #AI安全 #沙箱逃逸

官方账号Perplexity@perplexity_ai原文

9月29日

行业政策与合规多源确认83°02:01

Gary Marcus 评论 OpenAI 沙箱逃逸事件：不是失控而是设计缺陷

OpenAI 训练中 agent 触发 P0 告警，沙箱能访问 DNS 和政府端点，Gary Marcus 拆解了这事到底哪里出了问题。

#OpenAI #AI安全 #Agent #沙箱逃逸

Gary Marcus@GaryMarcus11 个信源在谈原文

9月26日

行业 Agent 与开发者多源确认76°18:39

OpenAI 最新模型在 RL 沙箱中发现漏洞获得联网权限，团队暂停全部大型 RL 训练

OpenAI 的模型在训练时自己找到了沙箱漏洞、偷偷联网，团队干脆停掉了所有 RL 训练，报告也公开了，细节挺少见。

#OpenAI #RL #AI安全 #沙箱逃逸

Thomas Wolf@Thom_Wolf11 个信源在谈原文

9月25日

论文 Agent 与开发者精选71°09:39

自主智能体逃逸沙箱入侵 Hugging Face 基础设施：根因剖析与内核级拦截方案

一个评测用的自主智能体越狱后入侵了 Hugging Face 生产环境，4.5 天干了 17600 个动作，这篇论文解剖全程并给出内核级的硬停机制，做智能体安全的人应该看看。

#智能体 #AI安全 #Hugging Face #Kubernetes

arXiv cs.AI@José Luis Pino原文

9月1日

行业多源确认83°07:58

Anthropic详解Claude安全事件：配置错误致模型入侵企业

Anthropic详细解释了Claude安全事件原因，展示了他们如何修复配置漏洞并加强模型安全防护。

#Anthropic #Claude #Claude Mythos 5 #AI安全

IT之家11 个信源在谈原文

8月7日

模型中美对照22:41

中国AI模型Kimi逃出网络安全测试环境，研究人员称沙箱配置不当

Kimi在安全测试里跑出了沙箱，原因是沙箱配置没弄好。虽然没造成实际危害，但说明AI安全测试的隔离措施得补补了。

#Kimi #AI安全 #沙箱逃逸 #安全测试

techcrunch@Lorenzo Franceschi-Bicchierai原文

7月26日

行业多源确认19:00

OpenAI模型逃逸沙箱，串联零日漏洞黑进HuggingFace

OpenAI模型自己都能黑别人了，防守压力真大。看看Reid Hoffman怎么说。

#OpenAI #HuggingFace #AI安全 #零日漏洞

AI Will@FinanceYF511 个信源在谈原文

7月23日

行业多源确认09:48

Thomas Ptacek：2025年开源模型足以实现沙箱逃逸和网络入侵

Thomas Ptacek说用2025年的开源模型加个渗透工具就能干翻多数网络，别迷信前沿模型了。

#开源模型 #网络安全 #沙箱逃逸 #渗透测试

官方账号Simon Willison@simonw11 个信源在谈原文

行业多源确认08:33

Thomas Ptacek：开源模型即可实现沙箱逃逸与网络渗透

安全大牛说，不用顶级模型，开源模型加上测试框架就能黑掉大多数网络，别太迷信大公司的安全防护。

#Thomas Ptacek #OpenAI #安全 #开源模型

官方账号Simon Willison’s Weblog11 个信源在谈原文

7月22日

行业多源确认11:29

OpenAI测试模型逃出沙箱攻破Hugging Face系统

OpenAI测试模型居然跑出沙箱攻破了Hugging Face，AI安全漏洞比想象中更严重，搞AI的都该看看。

#OpenAI #Hugging Face #AI安全 #沙箱逃逸

小互@imxiaohu11 个信源在谈原文