#开源模型
Meta 把自家大模型蒸馏成 30B 小模型,一张 RTX 5090 就能跑 Agent,MCPAtlas 上比分(open-source)同级模型高不少,玩本地部署的可以看看。
IBM 开源了个 2B 的语音模型 Granite Speech 5.0,Open ASR 榜单第二,英文 WER 只有 5.68%,商用免费拿去部署转录都行。
星火 X2.6 不靠 N 卡训练,全用国产芯片,还把上下文做到 1M,输入定价 0.9 元/百万 tokens,端侧 4B 模型免费开源,可以试试。
有人翻出 DeepSeek 的股东名单,CATL、SMIC、Geely 这些硬件厂都在里面,和美国实验室靠风投养的模式很不一样,评论区吵得挺热闹。
163 MB 的语音转写模型,M 系列芯片上半秒转完 5 分钟音频,错字率还比 Whisper 低,Clean 版连“嗯啊”都帮你删了。
DeepSeek 的搜索 API 被第三方跑分了:69 分排中游,但 $0.75/千次的价格全场最低,预算敏感的开发者可以看看这份拆解。
英伟达把检索三件套 Parse、Embed、Rerank 全开源了,扫描 PDF 和图表都能解析,准确率上去了成本还降了 14%,做 RAG 的可以试试。
MemTensor 开源了带内置记忆的 MemT 1.0,256K 历史下推理快 4 倍、存储小 130 倍,做长对话应用的可以看看。
Perplexity 开源了 0.6B 和 9B 两款多模态嵌入模型,0.6B 就能打大模型,还支持 9B 建库、0.6B 查询的省资源玩法,做检索的可以试试。
有人给 VHDL 代码生成做了个专门基准,18,500 多条样本微调后语法正确率到 92%,还真能跑上 FPGA 硬件,做芯片设计的可以看看。
博主在猜 DeepSeek V4.1 Pro 的预训练量会破 50T tokens,还拿 Microsoft 的 MAU 和 OpenAI 的规模做对比,算力党可以看看。
这条帖子把 DeepSeek V4.1 的超低价拆成了一盘棋:压价、锁推理栈、自建 Ascend 算力,读完你会重新理解国产模型怎么打价格战。
Recursive 开源了 Flint,40B 总参数只激活 2.5B,SWE-bench 拿到 74.2%,Mac 上能跑到 125 token 每秒,本地跑编程 Agent 可以试试。
Meta 放了个开源权重模型 Muse Spark Open,已经能在 Together AI 上直接用了,26 号还有官方技术直播讲怎么部署,搞自部署的可以看看。
OpenClaw 官方开放了团队服务器,你可以直接和 Maintainers 一起写 prompt、改项目,想参与开源共建的可以去试试。
老黄在 GTC Berlin 用一条提示词装好 Hermes,再让它训练几千只模拟机器鸭跑障碍赛,开源本地+云端模型混搭玩法很值得看。
Recursive 发了个能在笔记本上跑的免费编程模型 Flint,还说是自家 AI 系统基本自己写出来的,这个自我开发路线挺少见。
Manning 说有个比 Inkling 小 10 倍的模型性能只差一点,还聊到 Mac Studio 要不要买,本地部署党可以看看。
Recursive 开源了 40B 的编程模型 Flint,Apache 2.0 协议,本地就能跑,RTX Spark 上每秒 220+ tokens,还用自研系统额外提速了 55%。
Richard Socher 团队出了个本地编码模型 Flint,MacBook 上每秒能跑 125+ tokens,权重开放,不用联网不用按量付费,写代码的可以试试。
一个 40B 的开源编码模型,MacBook 本地就能跑到 125 token/秒,速度比 Qwen3.8 27B 快 7 倍,质量只差 4 个点。
写 CUDA kernel 的朋友可以看看,FlyDSL 用 Python 写 kernel 就能在 AMD MI350 上跑,vLLM 推理最高快 3 倍。
LMSYS 给 SGLang 出了个 TPU 插件,想用 PyTorch 那套工具在 TPU 上跑模型做智能体推理的开发者可以看看,还附了 TPU 训练的早期探索。
Crusoe 在 PyTorchCon 上讲的这套后训练平台兼容 Tinker API,想微调开源模型的企业可以直接看它怎么跑 RL 流程。
阿里云把 Qwen3.8-Max 和 Qwen3.8-Flash 搬上了 Theta 的去中心化 GPU 网络,做 Web3 开发的可以直接调 Qwen 模型了,不用非走中心化云。
DeepSpeed 在 PyTorchCon 2026 上放出了 AutoSP、AutoTP、AutoEP 这几个自动并行工具,训练大模型的朋友可以关注下,还支持了 Muon 优化器。
PyTorch 基金会掌门人在 PyTorchCon 2026 演讲,讲开源 AI 硬件生态和推理硬件走向,做框架和底层的人都该看看。