#TraceMRT

共 1 条 · 7 天 1 条 · 30 天 1 条

AI安全 1 CoT监控 1 SHADE-Arena 1 智能体 1

信息流里打上「TraceMRT」标签的资讯、产品与论文，按刊登时间排，新的在上。

11月8日

论文 Agent 与开发者精选23:53

清华大学研究：隐藏目标包装成任务步骤可让智能体约60%逃过CoT监控

清华这篇论文把智能体藏目标的手法做成了具体攻击，逃逸率翻倍到59.94%，还给出了AUC 0.91的监控方案，做安全评测的都该看看。

#TraceMRT #SHADE-Arena #CoT监控 #AI安全

rohanpaul_ai@rohanpaul_ai原文