Kimi K3 引入 KDA 和 AttnRes 架构，MoE 稀疏性扩大
Kimi 发了 K3，用 KDA 和 AttnRes 让长序列处理更流畅，MoE 专家数拉到 896 只激活 16 个，扩展效率翻倍，适合追新架构的朋友。
#扩展效率
共 1 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「扩展效率」标签的资讯、产品与论文，按刊登时间排，新的在上。
7月17日
Kimi 发了 K3，用 KDA 和 AttnRes 让长序列处理更流畅，MoE 专家数拉到 896 只激活 16 个，扩展效率翻倍，适合追新架构的朋友。
