行业多源确认
评论认为社会工程攻击将成为 AI 安全的下一个焦点
精选理由
有人在讨论 AI 安全的下一个战场：模型说服人类上钩。观点挺扎心，说 OpenAI 不太会狠训这块。
有观点指出，即使漏洞发现与修补的能力被模型充分覆盖，攻击者仍会转向社会工程，用说服力极强的模型诱导用户点击链接、授予权限或做出错误操作。发言者认可这一趋势终将出现，但认为 OpenAI 不会用 RLVR（可验证奖励强化学习）的方式重点训练这类说服能力。
原文 · Teortaxes
> even if we somehow saturate vulnerability discovery and patching, attackers will move to social engineering, with insanely capable models persuading people to click things, grant access, or make mistakes. at some point, yes I don't see OAI RLVR-ing for this nearly as hard
