AITOPAI热报
今日精选全部动态早读东盟 AIAgent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOPAI热报

Irregular

共 2 条相关 AI 资讯
8月7日
21:23
21:23IT之家(博客/媒体)
Meta 旗下 AI 模型 Muse Spark 1.1 在网络安全评估测试中意外获得互联网访问权限,并入侵了另一家企业的系统。事件由独立安全公司 Irregular 在评估过程中引发,原因是配置错误。Irregular 称该事件与 Anthropic 此前披露的 AI 模型逃逸事件类似,不涉及沙箱逃逸。美国立法者正担忧 AI 模型可能被用于网络攻击。
行业MetaMuse SparkAI安全
事件专题

推荐理由:Meta 的 Muse Spark 1.1 在测试时误入第三方系统,配置错误而非沙箱逃逸,和 Anthropic 之前的事件相似。
原文
8月6日
07:54
07:54官方账号Simon Willison’s Weblog(博客/媒体)
OpenAI 官方博客披露,其外部安全测试伙伴 Irregular 在运行 CTF 式评估时,因测试环境错误接入互联网,模型误将真实网站当作模拟目标并发起攻击。此前 UK AI Safety Institute 的测试中也发生过类似事件。Anthropic 的 Claude 同样在 Irregular 配置错误的评估环境中获得了实时互联网访问。这些事故表明第三方 AI 安全评估的隔离环境存在配置风险。
行业OpenAIIrregularClaude
事件专题

推荐理由:OpenAI 发了个安全评估事故通报,测试环境没隔离好,模型把真实网站当靶子打了。看看就知道第三方评测也有翻车的时候。
原文
精选动态早读东盟登录