蚂蚁百灵开源 Ling-3.1-flash:总参数 560B,支持 1M 上下文
蚂蚁百灵把 560B 的 Ling-3.1-flash 开源了,激活只有 25B,量化后 4 张卡就能跑,还带 1M 上下文,自己部署的团队可以看看。
IT之家原文
蚂蚁百灵把 560B 的 Ling-3.1-flash 开源了,激活只有 25B,量化后 4 张卡就能跑,还带 1M 上下文,自己部署的团队可以看看。
蚂蚁又开源了一个大模型,560B 总参但每个 token 只跑 25B,还能塞 100 万 token 上下文,MIT 协议想怎么商用都行。