DeepMind 让 4 个 Gemini 4 Argon 智能体自己分工、写代码、互相调试,27 小时干掉 Ender Dragon,全程没人插手,过程细节很有意思。
推理优化大爆发:vLLM 传输提速3倍,Meta 公开吉瓦级集群
2026年10月20日,今日 AI 领域由推理效率与基建规模化双线驱动。AWS 在 EC2 P5en 上为 vLLM 引入 push-based NIXL 连接器,分离式推理 TTFT 最高提升 3 倍、TPOT 提升 30%;双向 KV 缓存传输方案也让 GLM-5-FP8 多轮首 token 延迟最多降低 3.3 倍。Meta 首次公开俄亥俄州 Prometheus 超级集群技术细节:数十万块 GPU 训练 Muse 模型,预训练 goodput 超 85%,平均无中断约 4.7 万 GPU 小时。模型层面,MiniMax-M3.1-Flash 发布,Intelligence Index 得 42 分,单任务成本降至 $0.22;Obsidian CEO 开源 Mermaid 渲染库 Pele,速度最高快 500 倍。研究侧 FUTRANSFORMER 在单张 H100 上实现 1.29 PFLOP/s 的 FP8 推理。
模型发布/更新
5 篇DeepSeek 更新了 V4.1 Flash,智能指数涨到 45 分,追平 GLM-5.3 成开源第二,幻觉还少了好多,价格没变。
Meta 拆解了自家吉瓦级超算怎么保证几十万块 GPU 训练不中断,85% 的 goodput 数据对搞分布式训练的人很有参考价值。
Reflection AI 的 Beam 1.0 在 ARC-AGI-2 拿了 23.5%,每任务才 $0.61,还公开了高低推理档的成本差,价格党可以看看。
产品发布/更新
5 篇kepano 自己写了个 Mermaid 替代品 Pele,体积小 6 倍、渲染快上百倍,下个 Obsidian 就内置,画图多的笔记用户直接受益。
NVIDIA 把 Run:ai 整个开源了,Apache 2.0 协议,K8s 上管 GPU 调度和切分的功能全放出来,做训练平台的可以上手试试。
用 PyTorch 的朋友看这个:AWS 让你的代码改一处配置就能跑在 Trainium 芯片上,不用重写,10 月 20 日开源。
Cognition 把 Fusion 塞进了 Devin CLI,写博客讲了实现思路,做编程工具的可以去看看他们怎么做的。
写 CUDA 内核调优到极限的朋友看这个:NVIDIA CompileIQ 接入了 Helion 自动调优器,编译器参数也能一起搜了。
行业动态
4 篇a16z 的 Ben Horowitz 用 Databricks CEO 的四条框架分析 AI 起飞速度,结论是四条全没满足,观点挺反直觉。
Notion 的 AI 负责人 Sarah Sachs 说很多 Agent 任务用 CPU 跑代码就够,别浪费 token 让 LLM 重复造流程,还讲了本地文件系统怎么用。
论文研究
4 篇一篇把 Llama 推理在 H100 上抠到极致的 CUDA 论文,decode 比 PyTorch 快最多 2.4 倍,做推理优化的值得看代码思路。
技巧与观点
3 篇AWS 给 vLLM 的分离式推理换了种 KV cache 传输方式,首 token 延迟最高快 3 倍,做推理部署的可以看看怎么配。
如果你在跑多轮 Agent 服务,这篇讲 vLLM 的 KV 缓存跨节点复用,Qwen3-32B 和 GLM-5-FP8 实测 TTFT 快了 1.6 到 3.3 倍,附部署细节。
LangChain 创始人聊智能体怎么搭:先优化上下文,再动 harness,还讲了他们怎么省下 coding agent 开销,全是实操经验。