Salesforce 只用 8B 小模型就教 AI 一次写出一堆不重复的科研点子,创意性还赢了 Claude Opus 4.8 和 GPT-6 Astra,做法挺巧的。
#小模型
Anthropic在Databricks上发布了Claude Haiku 5.5,比前代质量提升15%且成本更低,适合需要高性能小模型的开发者。
NaceAI 刚发了 Drex,一个小于 6B 的小模型,专门帮智能体做路由和选工具,不写推理文本直接输出每个选项的概率,比用生成式模型省算力。
机电调试场景里怎么防大模型编造计划?这篇论文的做法挺有意思:小模型只管提候选,发布权交给外部验证层,21 个伪造计划全被拦下,但也暴露了防不住错误用户答案的短板。
小模型跑工具智能体老犯重复调用、提前写入这类错,这篇把失败经验做成异构图记忆来避免,τ-Bench 和 AppWorld 都验证有效,做本地部署的可以看看。
Hugging Face 老板替专用小模型发声:平台上已公开300万个,比通用模型便宜快几个数量级
这篇论文戳破了「更多Token=更好模型」的直觉,做小模型训练或资源受限场景的开发者会看到训练轨迹比终点指标更关键,建议点开看看如何用间隔遥测避免白费算力。
Mac 用户和 Agent 开发者注意了——这个 6.6B 的本地模型用 7GB 内存就实现了云端大模型的 Agent 能力,还自带 487 个原生工具,建议直接下载试试,看能否替代你现在的 Siri 或云端方案。
多智能体系统通常依赖大模型,而该项目用3B模型实现了经济模拟,做AI Agent或资源受限场景的开发者值得一看,可以直接复现或借鉴。
做 AI 应用或代理的团队,如果被 token 成本压得喘不过气,这个思路值得一试——用检索让小模型干大模型的活,省 20 倍成本不是梦。
神经符号系统终于有了可量化的突破——小模型+符号推理就能碾压纯神经网络,做推理模型和逻辑 AI 的团队值得关注这个方向。
客服团队和语音 AI 开发者可以亲眼看到:小模型专精化路线在延迟和效果上碾压通用大模型,PolyAI 的新工具让 10 分钟部署语音代理成为现实,值得立即关注。