论文提出模拟控制评估 SCE：用模型模拟环境预测安全指标
一篇 AI 安全方向的新论文，教你用语言模型直接模拟环境做安全评估，预测误差 3.6 个百分点，比传统 BashArena 的 10.1 准得多。做红队或评估的同学可以看看。
#control evals
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「control evals」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月23日
一篇 AI 安全方向的新论文，教你用语言模型直接模拟环境做安全评估，预测误差 3.6 个百分点，比传统 BashArena 的 10.1 准得多。做红队或评估的同学可以看看。