模型官方一手

Liquid AI 发布 LFM2.5-24B-A2B:24B 总参、2B 激活的端侧 MoE 推理模型

Liquid AI Releases LFM2.5-24B-A2B: A 2B-Active MoE for On-Device Agents

精选理由

Liquid AI 放了个端侧友好模型,24B 总参但只激活 2B,M5 Max 上能跑到 184 tokens/s,跑本地智能体可以试试

Liquid AI 发布开源权重模型 LFM2.5-24B-A2B,总参数 24B、激活参数仅 2B 的 MoE 架构。该模型面向本地智能体场景,在 LiveClaw 基准上得分 48.09。在 Apple M5 Max 上解码速度达 184 tokens/s,适合端侧部署运行。

图片来源 · marktechpost
原文 · marktechpost

Liquid AI Releases LFM2.5-24B-A2B: A 2B-Active MoE for On-Device Agents

Liquid AI released LFM2.5-24B-A2B, an open-weight 24B Mixture-of-Experts reasoning model with 2B active parameters. It targets local agents, scoring 48.09 on LiveClaw and decoding 184 tokens/s on an Apple M5 Max. The post Liquid AI Releases LFM2.5-24B-A2B: A 2B-Active MoE for On-Device Agents appeared first on MarkTechPost .