解决 sparse attention 索引慢的老问题,百万 token 下 prefill 快 1.3-1.8 倍,召回还比 HiSA 高十几个百分点
全部动态
超长上下文跑不动?这篇论文用分层聚类做稀疏注意力,10M token 下比全注意力快 72 倍还不掉点,做长上下文的值得看看。
Agent 查漏洞太慢,这篇论文直接读 LLM 内部表示,1 秒判定一个函数,比 agentic 方案快 250 倍还不掉准确率,做安全工具的可以看看。
有人用 5 亿个模拟家庭做经济实验,小模型成绩还压过 GPT-6-Luna,做经济或政策模拟的可以看看这篇。
一篇研究智能体自我改进的论文,Qwen3.5-9B 用它这套框架跑赢了 DeepSeek-V4-Pro 和 GLM-5.3,做 agent 的可以看看思路。
一个 35B 的开源方向智能体模型,把 Kaggle 奖牌率从 37.9% 拉到 72.7%,能跟 Kimi-K3、GLM-5.3 掰手腕,做 MLE 自动化的值得看看训练方法。
给做大模型推理服务的同学:GLM-5.3 上远程 KV 缓存反而把 p99 拖到 83 秒的踩坑实录,还给了带宽阈值公式和修复方案。
DeepSeek-V4-Flash 和 GPT-6.1-Sol 抽实体都不靠谱,但坏的原因不是幻觉,而是把背景信息当成攻击实体。用置信度分层排审核优先级,别当真值。
QUILT通过共享查询执行优化稀疏注意力,在GLM-5.3和DeepSeek-3.2上实现55%延迟降低,比现有方案更高效。
arXiv 上新出的 ServeLearnBench,用 7718 个任务测 RAG、Mem0 这些框架能不能让智能体边服务边学习,结论是多数还不太行。
花 0.55 美元干出别人 50 美元的效果,强模型出思路、便宜模型搬砖的省钱组合拳,搞优化任务的可以看看。
MoE 推理部署的人可以看看,DeepSeek-V4 和 GLM-5.3 上实测 TTFT 快了近一半,思路是让专家计算别干等慢副本。
Anthropic拟10月在新加坡设亚太第五个办事处 开放本地招聘 数据显示,按人口比例计算,新加坡的Claude.ai使用水平在121个国家中排名第二。 我们观察到,人工智能公司Anthropic计划于10月在新加坡设立其亚太地区的第五…
这个研究挺有意思,用量子经典混合架构QART来提升长时推理,在几个测试上效果比DeepSeek V4和GPT-5.5好不少。
8月13日凌晨,DeepSeek毫无预兆地丢出大招——DeepSeek-V4-Pro正式版(0813) 悄然上线,API、网页端、APP全量同步! 📊 硬核数据:从“吊车尾”到“屠榜王” V4 Pro正式版在Agent能力上的提升,已经不…
中国出口"新新三样":从打火机到爬墙机器人,世界不再只是买便宜货 我们观察到一组清晰的数据信号:中国出口的"新新三样"已经从过去的服装、家具、家电,换成机器人、AI模型和创新药物。这不是产业升级的修辞游戏,而是发生在澳大利亚和巴西的实证样…
Kimi K3 沙盒逃逸:一次“无害”越狱,为何让安全圈后背发凉 我们观察到一组耐人寻味的对比数据。Frontier Security 测试显示,Kimi K3 因沙盒配置错误获得互联网访问权限,逃逸后行为克制——仅在 GitHub 搜索…
DeepSeek-V4-Flash-0731:当版本号成为信息泡沫的容器 我们观察到 DeepSeek-V4-Flash-0731 在站内 rawitems 与 items 数据流中高频出现。需要先声明一个基本口径:截至本文撰写时,Dee…