vLLM 团队实现 Kimi K3 在 NVIDIA GB300 NVL72 上 842 tokens/s 解码
vLLM 和 NVIDIA 把 Kimi K3 推理速度干到了单批 842 tokens/s，还公开了完整 kernel 实现和评测细节，做推理优化的可以细看。
模型
今日精选 · 1728 条
10月18日
Salesforce 用 8B 小模型训练 AI 科研创意生成，创意性超 Claude Opus 4.8
Salesforce 只用 8B 小模型就教 AI 一次写出一堆不重复的科研点子，创意性还赢了 Claude Opus 4.8 和 GPT-6 Astra，做法挺巧的。
DeepSeek-V4.1-Flash-1017 上线 Ollama，托管不保留数据
DeepSeek 新版 Flash 模型上了 Ollama，跑智能体任务更快更便宜，还能直接接 Claude Code 用，美国托管还不留数据。
Cohere 称 Embed 5 Fast 在 163 个数据集上领先 Google EmbeddingGemma 2
Cohere 拿 Embed 5 Fast 和 Google 的 EmbeddingGemma 2 跑了 163 个数据集，95% 以上都赢，做 RAG 选嵌入模型可以看看这组对比。
Arena Alignment Index 更新：Meta、Reflection、StepFun 三款新模型上榜
Arena 的安全榜更新了，Meta、Reflection、StepFun 三家新上榜，OpenAI 的 GPT-6.1-Sol 还是最能管住手的，看各家智能体谁更靠谱。
LMArena 发布 Alignment Index：基于 9 万+ 真实智能体会话评估 30 个模型
LMArena 拿 9 万条真实智能体会话给 30 个模型打了三个对齐分数：越权操作、错误归因、谎报完成。选智能体模型前可以先看看这份榜单。
10月17日
博主用游戏特效提示词实测 Deepseek V4.1 Flash 1017
歸藏拿给 Opus 5.5 写的游戏特效提示词测了 Deepseek V4.1 Flash 1017，能用，但细节和创造性比 Opus 5.5 差一截，想对比的可以看看。
DeepSeek 发布 V4.1 Flash 1017，SWE 基准登顶并开放搜索 API
DeepSeek 新版 V4.1 Flash 在自家 SWE V1.1 基准上完爆一众模型，还能一句话生成整个项目，顺带开放了中文搜索 API，值得配进你的 Harness 试试。
Meta 开放 Muse Spark Open 权重：816B 总参数、100 万 token 上下文
Meta 放了个 816B 的开放权重多模态模型，两台 Mac Studio 就能本地跑，能改代码剪视频，不过年收入超 2000 万美元要另谈授权。
SuperTechFans原文
GPT-6 Astra Pro 升级：响应更快，多智能体可并行处理任务
OpenAI 给 GPT-6 Astra Pro 升级了，多个智能体能同时干一个任务的不同部分，还能跟踪进度，Pro 用户现在就能用。
TypeSafe 的 Jev-1.14 登陆 Databricks，专注结构化决策
一个不做文本生成的决策模型，单次判断 70-500 毫秒，成本比 LLM 低最多 400 倍，Databricks 上能直接给几百万行数据打标打分。
Reflection AI 发布开源模型 Beam-1.0-501B-A23B，跻身 Agent Arena 榜单前列
Reflection AI 放了个 501B 的全开源模型，Agent Arena 上是美国开源模型里最强的，Code Arena 前二十几个开源模型里唯一的非中国选手，Apache 2.0 随便用。
Epoch AI 测算：开源模型网络攻击能力仅落后闭源 6-7 个月
Epoch AI 测了个网络攻击能力榜单，Zai 的 GLM-5.3 拿 160 分，分数压过 GPT-5.4，开源只落后闭源半年多。
10月16日
Reflection-Beam-1.0 获 vLLM Day-0 支持：501B 参数、1M 上下文
Reflection AI 的新模型 Beam-1.0 开服就能在 vLLM 上跑，501B 参数却只激活 23B，还能微调做 RL，搞部署的可以看看
Reflection AI 首个开源权重模型 Beam 登陆 Ollama，限时免费使用
Reflection AI 开源了 Beam 模型，Apache 2.0 许可，1M 上下文，专攻编程和智能体任务，现在 Ollama 上限时免费用。
Reflection AI 开源 Beam 模型权重，采用 Apache 2.0 许可证
Reflection AI 把 Beam 权重按 Apache 2.0 开放了，BF16/FP8/NVFP4 三种精度都有，连训练用的 Mirror CLI 也一并开源，可以下载本地跑。
Reflection AI 发布 Beam 1.0：501B 参数开源模型跻身 Agent Arena 第12名
美国 Reflection AI 放了个 501B 的 Apache 2.0 开源模型，Agent Arena 第12，是榜单前25里唯一非中国实验室的开源作品。
Step 5 Preview 上线一周登 OpenRouter 周榜第二
StepFun 自己发的数据：Step 5 Preview 上线才一周就在 OpenRouter 周榜冲到第二，烧了 19.5T tokens，可以看看大家在拿它跑什么。
Reflection AI 发布首个开源模型 Beam，501B 参数采用 Apache 2.0 许可
Reflection AI 放出了 501B 的开源 MoE 模型 Beam，权重直接可用，还附了 BF16、FP8、NVFP4 三种精度版本，感兴趣的可以下载试试。
Reflection AI 发布 Beam 模型，SGLang 支持生产环境部署
Reflection AI 新模型 Beam 上线了，而且直接开源适配 SGLang，想自己跑一套推理服务的朋友今天就能动手。
Reflection-Beam-1.0 发布，vLLM 提供 Day-0 支持
vLLM 和 Reflection 合作搞的 Beam-1.0，501B 参数但每 token 只激活 23B，还能跑 1M 上下文，发布当天 vLLM 就能部署，微调工具也齐了。
Beam 发布：面向编程智能体的 token 高效模型，含自研 harness
Hugging Face 侧发布了 Beam，501B 激活 23B，专门给编程 agent 用，还自带 harness，第一天就能在 transformers 里跑。
Liquid AI 发布 d1-ultra，登顶 Artificial Analysis Decision Index v1.0
Liquid AI 新出的 d1-ultra 拿了决策模型榜第一，幻觉率从 2% 干到 85%，价格只有 GPT-6 Luna 一半，做自动化决策的可以看看。
开源多语言语音识别模型 Hojo-ASR-Multi-V1 发布，平均 WER 3.54
把 Qwen3-4B 接到语音识别解码端，5 种语言平均 WER 3.54，Apache 2.0 开源可本地跑，做语音转写的可以试试。
Meta 开源发布 Muse Spark Open，vLLM 支持其 RL 推理与首日部署
Meta 开源了 Muse Spark Open，训练时的 RL 推理用的就是 vLLM，发布当天就能直接在 vLLM 上跑起来。