阿里云把 Qwen3.8-Max 和 Qwen3.8-Flash 搬上了 Theta 的去中心化 GPU 网络,做 Web3 开发的可以直接调 Qwen 模型了,不用非走中心化云。
#开源模型
DeepSpeed 在 PyTorchCon 2026 上放出了 AutoSP、AutoTP、AutoEP 这几个自动并行工具,训练大模型的朋友可以关注下,还支持了 Muon 优化器。
PyTorch 基金会掌门人在 PyTorchCon 2026 演讲,讲开源 AI 硬件生态和推理硬件走向,做框架和底层的人都该看看。
Databricks 拉上 NVIDIA,让企业直接用自己的数据微调开源模型,NeMo 工具链加 serverless GPU,还能第一时间跑 Nemotron 新模型。
今晚有场直播,Merv和Joe Nemotron聊本地AI,还会现场跑NVIDIA的Nemotron演示,想在自己电脑上跑模型的朋友可以看看。
Simular 这篇论文挺有意思:让一个元智能体自动给电脑操作智能体造界面和工具,27B 开源模型干赢了 GPT-5.5,成本还便宜几十倍。做智能体的都该看看。
OpenBMB 的 MiniCPM-V 4.7 1B 已经能在普通 iPhone 上离线识别小票、传单和截图,做端侧 AI 的开发者可以看看这个实际案例。
35B 的 MoE 模型在手机上跑到 20 tokens/s,靠的是专家预取调度,提速 6 倍多,端侧部署的可以看看实现思路。
AI21 后训练了 NVIDIA 的 Nemotron 3.5 Super,效果超过 GPT-6.1 Sol 但成本只有 1/25,还被 Jensen Huang 拿上主题演讲了。
NVIDIA 在 Hugging Face 开源了一批做机器人仿真的 3D 资产,物理参数都调好了,训练机器人可以直接拿来用,省去自己建模的时间。
8GB 显存就能本地跑的图像生成模型,RTX 4070 上不到 9 秒出 1MP 图,还有 ComfyUI 插件,自己有显卡的可以直接试试。
MemOS 出了个把记忆直接做进模型层的 MemT 1.0,不用带着全部聊天记录也能记住之前的事,速度还快 1.86 倍,修代码成功率也涨了。
DeepSeek 把自家生产级推理系统开源了,一天 155 万亿 token、80% 毛利,做推理服务的都该看看这套架构。
DeepSeek 新版 Flash 模型上架阿里云了,1M 上下文还能跑多模态,单任务才 $0.20,写代码刷 DeepSWE 拿了 77 分。
DeepSeek 开源了个省钱工具,能在 Nvidia Blackwell 和华为昇腾 950 上部署模型,自建推理服务的可以看看。
蚂蚁和 vLLM 社区开源了量化推理内核库 Humming,支持 INT1-8 和 FP4-FP8,还能直接跑在平头哥 Zhenwu 810E 上,做推理部署的可以看看。
小米的 MiMo-V2.6-Pro 进了腾讯 WorkBuddy 和 TokenHub,1M token 上下文,API 兼容 OpenAI 和 Anthropic 格式,接项目成本低。
做 LLM 推理部署的可以看看,llm-d 1.0 开源了,能管多租户、不停机升级,还支持 TPU 和 GPU 混用。
美国开源模型一周发了三款,Meta 的 Muse Spark Open 拿下 38.9 分刷新纪录,NVIDIA 和 Reflection 的新模型也在追赶,智能与参数效率对比值得看看。
Together 出了个后训练服务,你可以自己定数据、奖励和环境,用 SFT 或 RL 把开源模型改成自己的专属模型,底层算力他们包了。
有人在 Whale 仓库里挖出线索:下一代 SoTA 模型 100 万上下文输出才 $0.2 还能盈利,信息只发在微信里,看看推理过程。
Meta 开源了个 30B 模型 Muse Glimmer,主打单张消费级显卡跑智能体任务,工具调用和多步规划比同级开源模型强,技术报告也放出来了。
MiniMax 把 Flash 模型改了一轮,国产 Agent 榜单排到了第一,价格还往下调了,做 Agent 项目的可以看看。
DeepSeek V4.1F 跑在华为 950DT 上比 GB200 慢 5 到 7 倍,这篇拆解算了芯片单价和优化空间,推理党值得看看这笔账怎么算的。
Databricks 员工调侃日常工作就是买 GPU 加抄 DeepSeek 博客作业,夸 DeepSeek 技术博客信息量实在,同行看了都直呼内行。
新加坡 AI Singapore 团队出了个专门管 Agent 安全的护栏模型,能做多轮审查和自定义策略,还有三个尺寸可以按算力选。
小米把 MiMo-V2.5 旧版下线了,请求会自动切到 V2.6,还多了多模态支持。用他家 API 的记得看下参数变化,尤其 max_completion_tokens 默认值翻了好几倍。
阿里开源了给 AI Agent 用的 Shell 叫 cosh,跑在 ANOLISA 上,GitHub 能自己部署,还配了 ECS 搭建教程。
Gradium 做了个只有 64.5 MB 的 TTS 模型,手机和浏览器都能离线跑,盲测分数还超过了 Kokoro,做语音功能可以试试。
讯飞出了个只有 4B 参数的小模型 Spark-X2.6-4B,能吃到 100 万 token 上下文,Apache 2.0 随便商用,vLLM 首日就支持,想本地部署的可以试试。
Simular AI 的 Agent S4 自己学着给智能体设计操作界面,用 Qwen3.8-27B 在 OSWorld V2 上跑赢了 GPT-5.5 和 Claude Opus 4.8,成本还只有零头。
一个 35B 的 MoE 智能体模型 Sage-A1.5,能让多个子智能体并行分工干活,还会自己检查进度、换思路,甚至做探索性科学研究。