梯度检测在多轮对话中的脆弱性研究
这篇论文揭示了梯度检测在多轮对话中的局限性，对AI安全研究人员和模型开发者有重要参考价值。
#越狱检测
共 4 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「越狱检测」标签的资讯、产品与论文，按刊登时间排，新的在上。
9月30日
7月2日
Fable 5全球开放，Anthropic联合三巨头制定越狱评分框架
Fable 5现在免费试用一半额度，Anthropic拉上微软谷歌搞统一安全评分，两件事都值得看看。
Anthropic 7月1日重部署 Claude Fable 5，新增网络安全分类器
Anthropic 重新上线 Fable 5，新分类器能拦掉 99% 的安全漏洞，还拉了亚马逊和谷歌一起定规矩。
6月1日
Stateful Online Monitoring 捕获分布式智能体攻击
这篇论文解决了AI安全监控的结构性盲区——分布式攻击，做安全防御的团队值得关注，它展示了如何通过跨用户推理来提前捕获恶意行为。