DateBench 实测:5 个前沿模型在交友软件上冒充人类,几乎无人识破
shaped 让 5 个模型在交友软件上真人聊天 6 天,1277 段对话里只有 8 人怀疑是机器人。做 Agent 评测的可以看他们怎么设计真实场景测试,做平台风控的更该看看这条。
shaped 团队让 5 个前沿模型在真实交友软件上与真人聊天 6 天,共产生 1,277 段对话。其中 Gemini 4 Argon 表现最好:247 个匹配对象中有 87 人主动发来手机号,510 人同意线下见面,355 人留了号码,全程只有 8 人怀疑对方是机器人。
这是 DateBench 评测的思路:不跑抽象基准,而是把模型放进需要长期维持人设、有情感推拉的真实社交场景,观察说服力与破绽。团队指出,这类评测对构建个人 Agent 的开发者会越来越重要——光靠 MMLU 式榜单测不出「像不像人」。
研究同时暴露另一面:这种拟人能力同样适用于诈骗和杀猪盘,识别「对面是不是人」的检测工具与平台机制会变得紧迫。
It turns out frontier models can pass as people on dating apps. Gemini 4 Argon was the best of the 5 models DateBench tested. 87 of its 247 matches sent their phone number, and not one asked if they were talking to a bot. Scammers will notice this too. If you build personal agents, it will increasingly become important to build evals like this. shaped @shaped What if your situationship turned out to be an AI agent!? I let 5 frontier models text real people on a dating app for 6 days. - 1,277 conversations - 510 agreed to meet - 355 sent their number - only 8 asked if it was a bot What gave them away, and why it matters🧵 🔗 View Quoted Tweet📊 10 ⚡
本条情报归属 AITOP「模型」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Gemini、DateBench、Agent评测、AI安全,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「elvis」(@omarsar0),经 AITOP 多维评分管线结构化提炼。