N-gram 是指由文本中连续 N 个词或字符组成的序列单元，长期以来被用于语言模型、搜索引擎与文本匹配。在深度学习兴起后，n-gram 一度被视为过时技术，但近两年它以"n-gram 记忆表"的形式重新进入大模型视野——通过检索历史 token 组合来辅助或压缩神经模型的记忆，成为 sparse retrieval 与长上下文记忆方向的热点之一。
N-gram 存储与压缩的最新进展
存储开销是 n-gram 记忆表落地的核心瓶颈，近期多篇论文聚焦于此：
N-gram 记忆的写入与推理落地
当前焦点与观察点
n-gram 方向的争论集中在两点：一是记忆表的工程成本——即便压缩到 51GB，仍远超普通开发者可负担的规模；二是它相对纯 Transformer 参数记忆的真实增益是否被夸大。值得观察的是 vLLM、Qwen 等推理生态是否会原生支持 n-gram 记忆表加载，以及 Delta N-gram 这类免反向传播写入方法能否让在线更新变得实用。若 n-gram 记忆与 KV 缓存压缩、稀疏注意力结合成熟，可能改变大模型"参数记忆 + 检索记忆"的分层结构，但短期内仍以研究验证为主。