dair-ai 一周论文精选:HySparse2 与 Harness-Zero 等 7 篇入选
dair-ai 又更新一周论文榜了,这次有 7 篇,稀疏化和智能体自组织团队那几篇可以翻翻,找找自己方向的灵感。
dair-ai 又更新一周论文榜了,这次有 7 篇,稀疏化和智能体自组织团队那几篇可以翻翻,找找自己方向的灵感。
小米 MiMo 团队搞了个新注意力架构,1M 上下文时 prefill 计算量和 KV cache 都砍到原来的几分之一,长文检索分数还涨了,做长上下文部署的可以看看论文。
小米 LLM-Core 团队搞了个 HySparse2 稀疏注意力,1M token 预填充计算量降约 5 倍,做长上下文的可以看看。