模型

Aleph Alpha 开源 Kolibri-1:德英双语 MoE 模型,78B 参数仅激活 3B

精选理由

德国的 Aleph Alpha 开源了 Kolibri-1,78B 参数但只激活 3B,还支持 260K 上下文,做德语项目的可以看看。

德国公司 Aleph Alpha 开源了 Kolibri-1 模型,采用 MoE 架构,总参数 78B,每次推理仅激活 3B 参数。该模型主打德语和英语,上下文长度达 260K。在基准评分上略低于 Qwen 3.8 27B。模型权重已在 Hugging Face 公开。

图片来源 · Gorden Sun
原文 · Gorden Sun

Aleph Alpha开源Kolibri-1 主打德语和英语的MoE模型,78B总参数,3B激活参数,260K上下文,评分略低于Qwen 3.8 27B。 模型:https://t.co/auP6CicqBv