斯坦福开源 Memorilla:16 个记忆 token 让冻结 LLM 具备文档记忆
斯坦福这次开源的 Memorilla 思路很巧:不微调 Qwen3-8B,只塞 16 个压缩 token 就记下整个文档库,输入量比全上下文少 108 倍还在 FactKG 拿到 84.33%。做长文档问答或想省 token 成本的开发者可以拿代码直接试。
斯坦福这次开源的 Memorilla 思路很巧:不微调 Qwen3-8B,只塞 16 个压缩 token 就记下整个文档库,输入量比全上下文少 108 倍还在 FactKG 拿到 84.33%。做长文档问答或想省 token 成本的开发者可以拿代码直接试。