AttentionIndex 用倒排索引加速长上下文稀疏注意力，吞吐最高提升 1.8 倍
解决 sparse attention 索引慢的老问题，百万 token 下 prefill 快 1.3-1.8 倍，召回还比 HiSA 高十几个百分点
#AttentionIndex
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「AttentionIndex」标签的资讯、产品与论文，按刊登时间排，新的在上。
11月3日
解决 sparse attention 索引慢的老问题，百万 token 下 prefill 快 1.3-1.8 倍，召回还比 HiSA 高十几个百分点