拿考试题和真实诊断病例测了一批医疗 AI 模型,结果反差挺大:考试能上 93%,真病例却掉到 50%,高置信答案也没那么靠谱。
全部动态
一个开源的视觉 Agent 框架,给多模态模型外挂工具和记忆,22 个基准平均涨 10 分左右,成本还只要竞品的三成多。
AA-3D 让模型直接在沙盒里搭 three.js 3D 场景,再由千人评审盲测打分,Claude 系和 GPT-6 Astra 并列头部,开源模型落后 200 多分。
LMArena 拆了个挺冷门的问题:智能体会把话安到你头上。GPT-6 Luna 误归因率 53.1%,看看各家模型差在哪。
想用模型标注文本的研究者可以看看:JEV 号称便宜快,实测发现便宜不成立,校准也只赢了一半。
有人测了 TypeSafe 那个号称便宜快的 JEV,结果在 OpenAI 批量价格下根本不省钱,校准也没明显赢 Qwen3.8-27B,想做文本标注的可以看看。
这个新基准专测智能体治理委员会会不会被骗:冒充流程的攻击让 GPT-6 Luna Pro 从 34 分掉到 6,挺扎眼的。
Anthropic拟10月在新加坡设亚太第五个办事处 开放本地招聘 数据显示,按人口比例计算,新加坡的Claude.ai使用水平在121个国家中排名第二。 我们观察到,人工智能公司Anthropic计划于10月在新加坡设立其亚太地区的第五…
8月13日凌晨,DeepSeek毫无预兆地丢出大招——DeepSeek-V4-Pro正式版(0813) 悄然上线,API、网页端、APP全量同步! 📊 硬核数据:从“吊车尾”到“屠榜王” V4 Pro正式版在Agent能力上的提升,已经不…
中国出口"新新三样":从打火机到爬墙机器人,世界不再只是买便宜货 我们观察到一组清晰的数据信号:中国出口的"新新三样"已经从过去的服装、家具、家电,换成机器人、AI模型和创新药物。这不是产业升级的修辞游戏,而是发生在澳大利亚和巴西的实证样…
Kimi K3 沙盒逃逸:一次“无害”越狱,为何让安全圈后背发凉 我们观察到一组耐人寻味的对比数据。Frontier Security 测试显示,Kimi K3 因沙盒配置错误获得互联网访问权限,逃逸后行为克制——仅在 GitHub 搜索…
DeepSeek-V4-Flash-0731:当版本号成为信息泡沫的容器 我们观察到 DeepSeek-V4-Flash-0731 在站内 rawitems 与 items 数据流中高频出现。需要先声明一个基本口径:截至本文撰写时,Dee…