OpenBMB 推出 MiniCPM-V-4.7-35B-A3B 20GB 量化版，保留约 95% 性能
MiniCPM-V-4.7-35B-A3B 出了 20GB 量化版，性能只掉 5% 左右，消费级显卡就能本地跑视觉模型了。
#开源模型
共 2569 条 · 7 天 388 条 · 30 天 1238 条 · 话题观测 →
10月13日
面壁开源 MiniCPM-V 4.7：手机端跑 35B 多模态模型，速度 5.86 倍提升
面壁开源的 MiniCPM-V 4.7 直接在手机上跑 35B 多模态模型，iPad 上每秒 17 个 token，还不掉精度，端侧玩家快看。
微软开源 BitNet 推理框架：让 CPU 跑 1.58-bit 大模型
微软把 1.58-bit 量化模型做到 CPU 能跑，EPYC 16 线程跑到 461 token/s，没显卡也想本地跑模型的话可以看看这套开源框架。
用 Opus 换算 OpenRouter 数据：年化推理收入约 15 亿美元
有人拿 Opus 把 OpenRouter 的 token 数据算成了钱：年化约 15 亿美元，Anthropic 一家吃掉 36% 支出，可以看看各家真实占比。
腾讯开源 TencentDB Agent Memory：本地运行的智能体长期记忆
腾讯开源的智能体记忆方案，跑在本地 SQLite 上，不用向量库和云 API，准确率在 PersonaMem 上从 48% 拉到 76%，可以自己搭一套试试。
OpenBMB 展示 MiniCPM-V-4.7-35B-A3B 在真实智能体工作流中的表现
OpenBMB 的 MiniCPM-V-4.7（35B 总参、3B 激活）跑进了真实 agent 工作流，重点考验工具调用和长上下文，关注高效模型跑 agent 的可以看看。
Anthropic 称已将 Claude 遭蒸馏攻击窃取的数据减少约 90-99%
Anthropic 把 Claude 被蒸馏偷走的数据砍掉了 90-99%，David Sacks 借此说：技术问题让公司自己解决，别动不动找华盛顿立法规。
OpenRouter 周推理支出年化约 15 亿美元，Anthropic 占 36%
有人把 OpenRouter 的 token 数据换算成了钱：年化约 15 亿美元，Anthropic 拿走 36%，开源模型占 26%，数字挺有意思。
SubQ Snap 发布：面向企业决策的 384K 长上下文模型
有个叫 SubQ Snap 的决策模型，专门干 agent 工作流里的判断活，384K 上下文，输入才 $0.05/MM，比用前沿模型便宜太多了。
NVIDIA 推出 LoGRA：显存占用低于 LoRA 的后训练 RL 方法
显存不够跑 RL 的朋友看过来，NVIDIA 这个 LoGRA 比用 LoRA 还省显存，7B 模型省了近一半，精度基本不掉。
IBM 杰出工程师 Carlos Costa 将在 PyTorchCon 演讲开源推理
IBM 的 Carlos Costa 要在 PyTorchCon 讲怎么把开源模型推理做到生产级规模，做部署的可以去听。
Atomic Chat 发布去审查版 MiniCPM-V 4.7 35B-A3B
OpenBMB 的 MiniCPM-V 4.7 35B-A3B 被第三方去掉了审查，拒绝率从 96.3% 降到 0，Hugging Face 上能直接下载本地跑。
MiniCPM-V 4.7 在 Pagoda 测试中击败 Qwen 3.6 35B-3A
OpenBMB 的 MiniCPM-V 4.7 在 3D 生成上赢了 Qwen 3.6 35B-3A，还省 10% token，本地跑视觉模型可以关注一下。
llm-d 将在 PyTorch Conference North America 发布新进展
IBM 背书的 llm-d 开源项目一年后升级，管推理扩容还支持多租户和零停机，10 月 San Jose 大会公布新消息，做推理部署的可以关注。
Meta 超级智能实验室发布首批前沿模型 Muse Wonder 与 Muse Wonder Full
Meta 第一次冲前沿模型，一次放了两款 Muse Wonder，可以看看它和 OpenAI、Anthropic 的旗舰比差在哪。
Meta 的 Muse Wonder 上线 OpenRouter 平台
Meta 的 Muse Wonder 已经能在 OpenRouter 上直接调用了，开发者不用单独去申请 Meta 的 API，接一个 key 就能用，可以去试试。
Meta 推出 Muse Wonder 与 Muse Wonder Full 两款新模型
Meta 又上新模型了，这次一次发两个：Muse Wonder 和 Muse Wonder Full，官方说能跟最强模型掰手腕，可以看看实测表现如何。
OpenBMB 发布开源多模态模型 MiniCPM-V 4.7 系列
OpenBMB 的 MiniCPM-V 4.7 能在 iPhone 上跑 35B 多模态模型，3GB 内存 13 tokens/s，OCR 还压过 Qwen3.6，端侧玩家可以试试。
AWS 推出 Ray LLM 深度学习容器，支持多节点 LLM 推理部署
AWS 出了个预装好整套推理栈的容器，能在 EKS 上把一个大模型拆到两个 GPU 节点跑，prefill 和 decode 分开，省去自己搭环境。
OpenSourceAIWeek 开源 AI 活动周征集进入最后阶段
PyTorch 牵头的开源 AI 活动周快截止报名了，有 PyTorchCon 和 MCPCon 等活动，想办分会场的人抓紧 10 月 15 日前提交。
10月12日
开源项目 PentAGI 用多 Agent 自动化安全渗透测试
一个叫 PentAGI 的开源项目，让多个 Agent 自动跑渗透测试，从信息收集到出报告全链路，还能复用之前的测试路径，安全岗可以看看。
AMD 发布锐龙 AI Halo 开发者平台，支持 192GB 内存可本地跑超 300B 模型
AMD 这个新开发平台能塞 192GB 内存，300B 参数的模型也能本地跑，搞本地部署的可以看看价格再说。
IT之家原文
Allen AI 与 Hugging Face 将于 10 月 16 日在 SF 举办开源社区活动 Open Together
在旧金山的朋友可以留意：Allen AI 和 Hugging Face 10 月 16 日办开源社区聚会，感兴趣直接去 RSVP 报名就行。
Qwen 团队发布 QwenGyre：面向超长程智能体训练的弹性强化学习框架
Qwen 开源了个新训练框架 QwenGyre，GPU 能在 rollout 和训练间动态调度，跑 70 万 token 的长任务智能体训练比之前快近一半，做 RL 的可以看看。
阿里千问发布 QwenGyre，面向超长程智能体任务的在线强化学习框架
千问开源了一个专门训练长程智能体的 RL 框架，GPU 能边跑任务边抽空训练，官方实测比 Async 快 1.78 倍，做智能体训练的可以看看。
TII 发布 Falcon-ASR：1.6B 阿拉伯语语音识别模型
TII 出了个 1.6B 的阿拉伯语语音识别模型 Falcon-ASR，在 6 个测试集上 WER 20.92%，不过权重和 API 还没放出来。
