模型76°

MiniMax 开源 M3.1 Flash,总参数 428B、激活 23B

MiniMax M3.1 Flash 开源模型权重,总参数 428B

精选理由

MiniMax 把 M3.1 Flash 的权重放出来了,428B 总参数激活 23B,还做了稀疏注意力和 W4A4 量化,上线三天就跑了超 100 万亿 Token,本地部署和私有化场景可以看看。

MiniMax 稀宇科技 10 月 23 日宣布开源 MiniMax M3.1 Flash 的模型权重,总参数 428B,激活参数 23B。相较上一代 M3,M3.1 Flash 的模型能力全面提升,并通过全模型稀疏注意力、W4A4 量化感知训练和 Power-aware scheduling 优化推理效率。该模型已于 10 月 19 日上线,72 小时内真实用户处理超过 100 万亿 Token。开源首日,华为昇腾、英伟达、AMD 等芯片厂商与 Together AI、Fireworks 等平台同步接入,vLLM、SGLang、Hugging Face、魔搭社区也已支持。

原文 · IT之家

MiniMax M3.1 Flash 开源模型权重,总参数 428B

IT之家 10 月 23 日消息,MiniMax 稀宇科技今日宣布 开源 MiniMax M3.1 Flash 的模型权重 ,总参数 428B,激活参数 23B。 相较于上一代 M3 模型,M3.1 Flash 的模型能力实现了全面提升。此外,通过全模型稀疏注意力、量化感知训练和 Power-aware scheduling 等优化工作,M3.1 Flash 进一步提升了推理效率: 全模型稀疏注意力: 前三个全注意力层替换为稀疏注意力; QAT : 路由 MoE 专家迁移到 W4A4(共享专家除外),稀疏注意力索引器和主分支从 Q8KV8 迁移到 Q8KV4; Power - aware scheduling : 通过对计算卡功耗的精细分配,保持计算卡持续维持算力高位,极致压榨硬件效率。 M3.1 Flash 于 10 月 19 日上线 ,72 小时内真实用户处理超过 100 万亿 Token。 MiniMax 宣布携手华为昇腾、平头哥、昆仑芯、摩尔线程、壁仞、海光、沐曦、天数、英伟达、AMD 等海内外芯片厂商,以及 Together AI、Fireworks、Nebius、Baseten、Modal、DigitalOcean 等推理和云服务平台, 共同推进 M3.1 Flash 的开源首日接入 。 此外,vLLM、SGLang、智源 FlagOS 和 Hugging Face、魔搭等推理框架与开源社区,也将与 MiniMax 一齐推动模型在不同芯片、云平台和开发环境中的应用,持续拓展全球 AI 开源生态。 IT之家附开源地址如下: Hugging Face: https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash 魔搭社区: https://modelscope.cn/models/MiniMax/MiniMax-M3.1-Flash

MiniMax 开源 M3.1 Flash,总参数 428B、激活 23B|AI热报