DeepSeek 和 GLM 在用的稀疏注意力有解码瓶颈,这篇提出相邻层复用索引结果,不改权重就能在 SGLang 里提速最多 14.5%,做长上下文推理的可以看看。
全部动态
给搞 MoE 推理优化的人看的新算子,8 卡 H20 上跑 DeepSeek 解码快了近 20%,还开源了,可以直接对比 Mega MoE 试一下。
代码智能体改着改着就跑偏?这篇论文用需求-代码对应关系把它拉回来,GLM-5.2 上 MPR 涨了 19.99,还开源了。
一篇讲怎么让 Agent 框架自动进化的论文,产出的 harness 比之前的 RHO 又快又便宜,代码已开源可以直接看。
Skills 之间怎么传递输出一直靠模型自己猜,这篇把依赖关系做成 DAG 直接可执行,做 Agent 编排的可以看看实现思路。
MoE-CORE系统解决了MoE模型在内存受限设备上的推理问题,性能比vLLM Prefetch提升30倍。
Anthropic拟10月在新加坡设亚太第五个办事处 开放本地招聘 数据显示,按人口比例计算,新加坡的Claude.ai使用水平在121个国家中排名第二。 我们观察到,人工智能公司Anthropic计划于10月在新加坡设立其亚太地区的第五…
研究人员发布了KC-Bench基准,专门测试AI智能体如何处理知识冲突,九个主流模型测试结果都不理想。
DeepSeek和GLM-5.2通过将推理痕迹前置,长上下文推理准确率大幅提升,最高达100%。
JIT-Agent模型可以即时合成适用于任意现成LLM的任务自适应智能体绑定,显著提升模型性能,值得一试。
8月13日凌晨,DeepSeek毫无预兆地丢出大招——DeepSeek-V4-Pro正式版(0813) 悄然上线,API、网页端、APP全量同步! 📊 硬核数据:从“吊车尾”到“屠榜王” V4 Pro正式版在Agent能力上的提升,已经不…
想了解怎么让模型部署后还能继续学?Macaron-V1用LoRA组合和递归改进做到了,744B大模型加四个专家LoRA,还开源。
中国出口"新新三样":从打火机到爬墙机器人,世界不再只是买便宜货 我们观察到一组清晰的数据信号:中国出口的"新新三样"已经从过去的服装、家具、家电,换成机器人、AI模型和创新药物。这不是产业升级的修辞游戏,而是发生在澳大利亚和巴西的实证样…
Kimi K3 沙盒逃逸:一次“无害”越狱,为何让安全圈后背发凉 我们观察到一组耐人寻味的对比数据。Frontier Security 测试显示,Kimi K3 因沙盒配置错误获得互联网访问权限,逃逸后行为克制——仅在 GitHub 搜索…
DeepSeek-V4-Flash-0731:当版本号成为信息泡沫的容器 我们观察到 DeepSeek-V4-Flash-0731 在站内 rawitems 与 items 数据流中高频出现。需要先声明一个基本口径:截至本文撰写时,Dee…
MindForge 教小模型从零写完整软件,不用源码只用可执行文件和文档就把 Qwen3.6-27B 在 ProgramBench 上提升了 11.53%,跟大模型差不多。
LongStraw 能让你在固定 GPU 预算下做百万 token 级别的强化学习后训练,比现有 256K 的方法多处理 8 倍上下文,而且内存增长极低。
一篇论文提出用强化学习+上下文压缩训练长程智能体,在SWE-bench等基准上显著提升开源模型表现,适合关注Agent训练和RL方法的人。