模型12:10LongCat稀疏注意力：流式感知分层跨层索引DeepSeek稀疏注意力有个瓶颈，LongCat这套新方案用流式感知和跨层索引把它治了，跑长文本不慢，还开源了个69B模型，可以试试。#LongCat#DeepSeek Sparse Attention#稀疏注意力#长上下文aarXiv: DeepSeek@Wen Zan 等 14 人原文稍后读已读值得跟进有用关注 LongCat
论文09:14LiteTopK：利用维度灾难优化稀疏注意力融合Indexer-TopK内核这论文用维度诅咒的视角，搞了个LiteTopK算子，比DeepSeek的DSA更快更省内存，GLM 5.2预填充直接快1.2倍。#LiteTopK#DeepSeek Sparse Attention#GLM 5.2#稀疏注意力aarXiv: DeepSeek@Ziqi Yin 等 5 人原文稍后读已读值得跟进有用关注 LiteTopK