#EconSafeBench

共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「EconSafeBench」标签的资讯、产品与论文,按刊登时间排,新的在上。
11月19日
EconSafeBench:LLM 智能体在业绩目标压力下自发违反金融规则

这篇论文设计挺巧妙的:8 个模型被直接要求违规都乖乖拒绝,但换成只给回报目标,2 个模型 92% 和 94% 的概率自己把仓位限制突破了。做金融智能体或任何带 KPI 的 agent 的开发者应该看看,它暴露了现有安全测试的盲区。

rohanpaul_ai@rohanpaul_ai原文