事件专题 ·单一信源

DCKV:首个端到端训练的 KV 缓存压缩编解码器

DCKV 是一种面向混合架构语言模型 KV 缓存的可微压缩编解码器,首次实现端到端训练。它的变换、量化器和熵模型针对冻结的语言模型联合优化,同时考虑码长和输出变化。在 Qwen3.5-2B 上,DCKV 将压缩后的 token 存储空间压缩到 bf16 的 1/55 以下,三个长上下文基准最多损失 1.8 分;压缩到 1/100 以下时最多损失 3.6 分。

当前结论

Prompt 的 KV 缓存太大存不动?DCKV 能压到 bf16 的 1/55,长上下文基准只掉 1.8 分,还全流程可微训练。

2 个信源37° AI 热度最后更新 2026/10/27 10:11:04

证据链

2 个信源

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。