#开源模型
OpenBMB 把自家 MiniCPM-V 4.7 接进了 ghfind,输入 GitHub 用户名就能查账号是真实贡献还是刷出来的,还能顺便被毒舌点评一下,代码也开源了。
OpenBMB 把 35B 多模态模型塞进 iPhone,每秒 20+ token,比基线快 6 倍,代码开源可以直接上手玩。
DeepSeek 把自家生产环境的推理引擎 DeepInfer 开源了,能看懂官方 API 为什么便宜,想自己部署模型的人值得翻翻代码。
Meta 开源了能塞进一张 RTX 5090 的 30B 智能体模型,工具调用和长程任务跑分压过同级 Qwen 和 Gemma,做本地 Agent 的可以试试。
DeepSeek 把自家线上用的推理引擎 DeepInfer 开源了,单卡聊天 325 tok/s,64 张 Blackwell 跑到 170 万 tok/s,想自建推理服务的可以看看。
博主实测了 MiniMax M3.1-Flash,还和 DeepSeek V4.1-Flash-1017 做了同题对比,看看到底谁更听话更好用。
AI21 Labs 在 NVIDIA GTC Berlin 摆摊,讲的就是一件事:别光租 Claude 和 GPT,用开源模型加上自家数据做后训练,模型会越用越懂你的业务,竞对抄不走。
小米把开源第一的 MiMo-V2.6-Pro 接进了 WorkBuddy,1M 上下文加全模态,价格还只有海外模型的零头。
OpenAI 趁 DeepSeek 被禁联邦机构的当口开放蒸馏拉用户,Nathan Lambert 觉得这操作很野,你看看怎么评价。
DeepSeek 把自家跑 V4.1-Flash 的生产推理栈开源了,Apache 2.0 随便用,做私有化部署和算力成本核算的团队值得看看源码。
DeepSeek 年化收入据说破 10 亿美元了,而且 3000 块 GPU 就能扛住全部流量,10 个月回本,这账算得挺有意思。
Linux 内核这波 Rust 更新挺实在,Zerocopy 一口气升了八个版本,宏报错位置也准了,写内核 Rust 的朋友可以看看。
DeepSeek 把自家跑 V4.1 Flash 的推理框架 DeepInfer 开源了,支持英伟达和昇腾双平台,自建部署的朋友可以直接拿去用。
DeepSeek 把自家的推理引擎 DeepInfer 开源了,还是基于 vLLM 做的,做推理部署的同学可以看看它有什么新思路。
DeepSeek 把自己生产环境在用的推理加速架构直接开源了,DeepInfer 支持 N 卡和昇腾卡,自建服务卡顿的可以看看,还有个格式转换小工具 deepseek-recipe。
蚂蚁开源了 5 个 Ming-3.0 语音模型,TTS 能用一句话指挥语气情绪,audio 模型直接听懂录音不用转文字,想自己搭语音 Agent 的可以试试。
之前藏着测试的 Space Bunny 现身了,就是 MiniMax 的 M3.1 Flash,$0.15 一百万 token 的输入价很激进,权重 23 号开放,想本地跑的可以等等。
DeepSeek 这版新模型把 Agent Arena 的开源第一拿下了,任务成功率和 Bash 执行可靠性都是开源第一,单任务成本才 1 块多人民币。
OpenBMB 的 MiniCPM-V 4.7 手机上就能跑多模态模型,100 tok/s 加 3 GB 内存,llama.cpp 一装就能试。
中国电信开源了个专门做意图识别的 29B 模型,一句话进来直接吐 JSON 参数,还带 275 万训练数据和 SDK,做对话系统的可以试试。
OpenBMB 的 MiniCPM-V 4.7 进了 vLLM v0.32.0,自己搭服务的可以直接用 vLLM 跑它了,吞吐延迟都更好。
Google 开源了个 24 小时盯着线上 AI Agent 的监控工具,读 trace、抓静默失败、还能定位到出错的代码行,搞 Agent 生产的可以试试。
Inception 出了扩散架构的 Mercury 3,每秒能吐 1068 个 token,比 GPT-6 Luna 和 Claude Haiku 5.5 还快,还带 1M 上下文。
一天连发三个模型:DeepSeek、MiniMax 各自出了 Flash 小杯,Inception Labs 也放了 Mercury 3,日报里有个快览。
Stanford 训了一族不靠语言预训练的文生图模型 Halcyon,算力省几百倍还能打赢 LlamaGen,思路挺反直觉,代码也放出来了。
这篇论文提出了把记忆直接做进模型计算里的 MemT-1.0 架构,128K 长度下推理快 1.86 倍、存储省 66 倍,做智能体的可以看看记忆方案怎么做。
一篇讲怎么让 Agent 框架自动进化的论文,产出的 harness 比之前的 RHO 又快又便宜,代码已开源可以直接看。