论文12:29
研究揭示视觉语言模型场景状态安全漏洞,提出 SceneSafetyBench 与 S3TA 攻击法这篇论文把一个很隐蔽的漏洞讲清楚了:不改指令、只摆图片场景,八个主流 VLM 的攻击成功率能到七成。做视觉模型安全或部署多模态产品的人应该看看 S3TA 的攻击拆解思路和 SceneSafetyBench 的测试设计。
这篇论文把一个很隐蔽的漏洞讲清楚了:不改指令、只摆图片场景,八个主流 VLM 的攻击成功率能到七成。做视觉模型安全或部署多模态产品的人应该看看 S3TA 的攻击拆解思路和 SceneSafetyBench 的测试设计。