LLM可直接编辑上下文提升记忆效率
精选理由
新研究让LLM能自己管理上下文，记忆更持久，计算更高效
研究显示当前LLM上下文管理方式过于僵化。新方法允许LLM直接编辑自身上下文，实现更好的长期记忆能力。这种方法在FLOP效率方面表现更优，解决了上下文压缩的痛点。
原文 · Nathan Lambert
Current harnesses have a very rigid setup in how the LLM can manage its own context. We show that you can let LLMs edit the context directly - enabling better long-horizon memory, FLOP efficient adaption, & more.
Don't fear compaction anymore!