行业多源确认

OpenAI 修补新发现的蒸馏攻击方法

精选理由

有人发现能从 OpenAI 模型身上蒸馏出新方法,OpenAI 已经堵上了,搞模型安全的可以看看细节。

一种新的蒸馏攻击方法被发现,攻击者可借此尝试从 OpenAI 模型中提取模型能力。OpenAI 已针对该方法完成修补。该消息由 Andrew Curran 在 X 上披露,目前攻击的具体技术细节和影响范围尚未公开。

原文 · Andrew Curran

A new distillation attack method has been discovered, and is now patched by OpenAI. https://t.co/raDHKbM1YG