#开源模型
Reflection AI 的 501B 模型现在能本地跑了,四档 GGUF 量化从 197GB 压到 134GB,最高那档精度损失不到 6%,有硬件的可以试试。
Meta 新掌门亲笔复盘:一年内从 Llama 4 的低谷追到前沿模型,Muse Wonder 和 Muse Spark 就这么憋出来了。
DeepSeek 的 flash 模型指纹变了,疑似悄悄上了 V4.1-Flash-1017,有人说变聪明也更简洁了,可以自己试试对比。
复旦 MOSS 团队开源了图像生成模型 MOSS-Image,vLLM-Omni 第一天就能跑,想自己部署的朋友可以直接上手了。
腾讯把智能体的记忆系统整套开源了,还带一个 30B 记忆模型,LoCoMo 跑到 72.6%,token 消耗还砍了近四成,做 Agent 的可以白嫖。
Perplexity 把自家智能体沙箱 SPACE 开源了,每个任务跑在独立 Firecracker microVM 里,做 Agent 隔离可以直接抄作业。
Meta 放了个 816B 的开放权重多模态模型,两台 Mac Studio 就能本地跑,能改代码剪视频,不过年收入超 2000 万美元要另谈授权。
有人实测了 Meta 新开源的 Muse Spark Open,结论是打不过 DeepSeek-v4.1-flash,还特能幻觉,想本地部署的先看看再决定。
Meta 放出了 Muse Spark Open,816B 总参数里只有 42B 激活,跑 Code Arena 拿了美国开源第一,价格还比 Muse Wonder 便宜近八成。
NVIDIA 开源了一个 120B 多模态智能体模型,每 token 只激活 12B,跑智能体任务比大 5 倍的 Ultra 还快,ms-swift 里就能微调。
Meta 放了个 816B 的开源权重模型 Muse Spark Open,美国开源第一,1M 上下文还能塞进两台 Mac Studio 自托管,不过跑智能体任务不如 GLM-5.3。
Perplexity 把两个开源决策模型挂上了 Hugging Face,flash 版推理快 5 倍还是 4B 档第一名,做智能体路由的可以试试。
Perplexity 把开源决策模型 Decider v1.2 放到 OpenRouter 了,27B 和 4B 两档,Flash 版成本砍半,还能直接吃图。
RespanAI 的开源决策模型 Span-02 上 OpenRouter 了,$0.01/M token 还免输出费,自带 Rust 引擎比 vLLM 快 7 倍,做分类判断挺合适。
Reflection 的开源模型 Beam 之前一直匿名运行,现在在 Vercel AI Gateway 上限时免费,写代码、跑 agent 都能直接接,想试美国开源模型的别错过。
Perplexity 把两款决策模型开源了,4B 那个跑一百万 token 才 1 美分,权重直接放 Hugging Face 上,自己搭服务的可以试试。
Reflection AI 放出了首个开放权重的 Beam 模型,在 CoreWeave 上 API 就能调,预览用户反馈它又快又准还不啰嗦。
一个不做文本生成的决策模型,单次判断 70-500 毫秒,成本比 LLM 低最多 400 倍,Databricks 上能直接给几百万行数据打标打分。
Reflection AI 放了个 501B 的全开源模型,Agent Arena 上是美国开源模型里最强的,Code Arena 前二十几个开源模型里唯一的非中国选手,Apache 2.0 随便用。
Epoch AI 测了个网络攻击能力榜单,Zai 的 GLM-5.3 拿 160 分,分数压过 GPT-5.4,开源只落后闭源半年多。
Reflection 把自家第一个开源模型 Beam 放上了 Together AI,501B 参数只激活 23B,1M 上下文,Apache 2.0 随便商用,写代码跑智能体的可以试试。
Anyscale 现在能用 Ray Serve LLM 在你自己账户里跑 Reflection 的 Beam,数据主权归你,还不用管运维。
两个博士生优化推理速度的副业项目,如今跑在 50 万张 GPU 上,Google 和 Meta 都在用,还融了 1.5 亿美元。
Reflection AI 把自家的智能体编程模型 Beam 开源了,AWS 博客还手把手教你在 SageMaker 上部署,vLLM、SGLang 都能用。
Reflection AI 的新模型 Beam-1.0 开服就能在 vLLM 上跑,501B 参数却只激活 23B,还能微调做 RL,搞部署的可以看看
Meta 的 816B 大模型现在有量化版能跑在 256GB 内存的机器上了,224GB 那档保住 89.2% 原始质量,有硬件的可以试试。