自适应压缩相关 AI 资讯 · AITOP · AI热报

8月28日

20:05

20:05

官方账号arXiv cs.AI@Junjie Liu, Shengyuan Ye, Xu Chen

78°

PACE框架通过统一压缩提取范式，在Qwen2.5-VL-7B模型上实现仅使用10%视觉 tokens 保持93.8%原始性能，时间到首个token提速3.1倍。该框架包含自适应像素压缩器(APC)和动态双注意力提取器(DDAE)两个核心组件。PACE无需训练即可同时优化视觉编码器和大型语言模型的推理过程。

AI模型 PACE Qwen2.5-VL-7B 视觉语言模型

推荐理由：清华团队推出PACE框架，让Qwen2.5-VL-7B推理速度提升3.1倍，性能只损失6.2%

5月12日

19:11

19:11

官方一手arXiv: OpenAI@Songtao Wei, Yi Li, Zhikai Li, Xu Hu, Yuede Ji, Guanpeng Li, Feng Chen, Carl Yang, Zhichun Guo, Bingzhe Li

LEAD提出了一种在线自适应推理压缩方法，解决大推理模型（如OpenAI o1、DeepSeek-R1）在CoT过程中过度冗长的问题。传统强化学习方法使用静态权重和全局长度约束，难以平衡正确性与效率，且无法适应不同问题的推理预算需求。LEAD通过Potential-Scaled Instability动态校准每步的正确-效率权衡，并基于模型自身正确rollouts在线估计每个问题的目标长度，然后应用对称效率奖励——既惩罚过度思考也惩罚过度压缩。在五个数学推理基准上，LEAD取得了最高的准确率和准确-效率得分，同时生成比基础模型更短的输出。

论文推理模型推理效率自适应压缩

推荐理由：该方法为推理模型部署中的计算效率问题提供了自适应解决方案，对于实际应用中降低推理成本和延迟具有重要价值，特别是在数学推理等需要长链推理的场景。