主要来源arXiv cs.AI
查看原文事件专题 ·单一信源
DCKV:首个端到端训练的 KV 缓存压缩编解码器
DCKV 是一种面向混合架构语言模型 KV 缓存的可微压缩编解码器,首次实现端到端训练。它的变换、量化器和熵模型针对冻结的语言模型联合优化,同时考虑码长和输出变化。在 Qwen3.5-2B 上,DCKV 将压缩后的 token 存储空间压缩到 bf16 的 1/55 以下,三个长上下文基准最多损失 1.8 分;压缩到 1/100 以下时最多损失 3.6 分。
当前结论
Prompt 的 KV 缓存太大存不动?DCKV 能压到 bf16 的 1/55,长上下文基准只掉 1.8 分,还全流程可微训练。
2 个信源37° AI 热度最后更新 2026/10/27 10:11:04
证据链
2 个信源相关来源 1rohanpaul_ai
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。