有人算了笔账:DeepSeek 一个集群每天跑 150T tokens,比 OpenRouter、Together 这些平台加起来还多,推理成本优势是真不是吹的。
#开源模型
Moonshot 的新 Kimi K3.1 Pro 在 14 项基准里 6 项压过美国前沿模型,价格还只有 Opus 5.5 的一半,可以关注。
月之暗面刚发的 Kimi K3.1 Pro,在 Terminal-Bench 4.0 上跑赢了 Claude Opus 5.5,成本只要三分之一,开源可自部署。
Kimi K3.1 Pro 参数 2.8T、上下文 1M,官方说编程和 agent 能对标 Opus 5.5,11 月 4 日还开放权重,可以等实测。
Kimi 又出新模型 K3.1 Pro,2.8T 参数 MoE,能直接做 Unreal 和 Blender 项目,金融场景幻觉降了 65%,还有个快 2-3 倍的版本可以试。
Bindu Reddy 拆了 Kimi 3.1 的价格:输入 $2 输出 $10,比 K3 便宜但没便宜到 5 倍,她的结论是开源阵营里 DeepSeek 还是更划算。
如果你在 AWS 上用 PyTorch 训练模型,现在可以直接跑在 Trainium 芯片上,不用换框架,省下不少算力成本。
MiniMax 把 M3.1-Flash 开放权重了,编程基准 DeepSWE 拿了 73.7%,还比 M3 便宜 70%,跑智能体的可以试试。
Abacus.AI 的 CEO 预测智能成本要降 10 倍,Kimi K3.1 会用低价打头阵,选模型跑应用的朋友可以参考下这个判断
商汤把 GPT-6-Astra 从演示里学到的具身经验,蒸馏进开源的 RoboRSI-27B-Preview,还把任务成本压到约 1/50,做机器人的可以看看。
AWS 把 TorchNeuron 开源了,PyTorch 代码基本不用改就能跑 Trainium,团队还用智能体加几十万模型做了验证,搞芯片适配的可以看看。
SiliconFlow 拿 DeepSeek V4.1 Flash 和 GPT-6 Astra 跑同一个 Three.js 3D 场景提示词,效果打平还便宜一半,提示词直接在评论区自取。
OpenBMB 在 GitHub 开源了 StaffDeck,能搭建数字员工并接进终端跑任务,任务可追溯还能中断续跑,想折腾智能体工作流的可以去装一个试试。
MiniMax 那个 428B 的 M3.1 Flash 出 GGUF 了,有 256GB 内存的机器可以下载 203.5GB 的 Q3_K_M 版本本地跑。
就是之前在 OpenRouter 上神秘出没的 Space Bunny,428B 总参只激活 23B,权重已放到 HuggingFace 可下载。
月之暗面放了个 24 秒视频,画面里 Kimi Code 跑的是 K3.1,SGLang 代码里也出现了它的身影,看来 K3 要出升级版了。
一天的大事都在这:MiniMax开源了428B的M3.1 Flash,OpenAI的GPT-6 Luna API便宜10倍速,还有Kimi K31要来了。
PostgreSQL 团队用 LLM 审查代码,结果撤掉了 19 版里 8-10 个大功能还延期一个多月,LLM 当代码审查员这案例挺少见。
DeepSeek 拿了 150 亿美元融资,腾讯、宁德时代都跟投了,还可能在明年初抢在 OpenAI 之前上市,细节都在这篇。
Abacus.AI 在 Nvidia 模型基础上改出了 Smaug-Nemotron-3.5,主打单卡跑本地 agent,权重已在 HuggingFace 开放下载。
MiniMax 新的 M3.1 Flash 已经有人在生产环境规模化跑了,还带 SLA,优化代码直接回馈 vLLM,部署的同学可以关注。
蚂蚁开源的医疗模型,124B总参数只激活5.1B,医学诊断测试比Kimi K3和GPT-5.6 Sol还高,搞医疗应用的可以自己部署二开。