Internalizer:为 DeepSeek V4-Flash 做上下文到参数映射
有人给 DeepSeek V4-Flash 做了个超网络,把上下文直接变成参数,投影塞进每层共享专家 MLP,思路挺野。
有人给 DeepSeek V4-Flash 做了个超网络,把上下文直接变成参数,投影塞进每层共享专家 MLP,思路挺野。
把一份文档直接编译成 LoRA 权重,284B 的 DeepSeek v4 Flash 也能用,top-1 准确率从 63.4% 拉到 84.9%
Boltzbit 和剑桥把对话内容动态编译成 LoRA 权重贴到模型上,长文档和多轮对话反超堆 Prompt,每轮算力还恒定。
做代码仓库级上下文注入的团队终于有了一个轻量方案——Code2LoRA 用超网络生成适配器,省去逐仓库微调的成本,还支持代码演化场景。做代码补全或仓库级 AI 工具的开发者值得试试这个零推理开销的思路。