AITOPAI热报
№distillation·general

Distillation

别名
首次出现
2026-05-22
最近出现
2026-09-03
累计提及
180
§ 01综述

Distillation 近期进展

Parallel Decoding Distillation加速图像与视频生成 arXiv cs.LG

在2023年7月，研究人员提出了Parallel Decoding Distillation技术，该技术能显著提升图像和视频生成的速度和效率。

美国权衡应对中国AI，行业呼吁勿广泛限制开放权重模型 techcrunch

2026年7月，美国在考虑如何应对中国AI的发展，行业内部则呼吁避免对开放权重模型实施广泛限制。

Miles 引入 OPD：使 Qwen3.5-35B 推理缩短 3 倍且精度提升 LMSYS Org (SGLang)

2026年，Miles 引入了OPD技术，使Qwen3.5-35B模型的推理时间缩短了3倍，同时保持了更高的精度。

当前焦点与观察点

  • Distillation技术正在快速发展，不断有新的方法被提出以优化模型的推理性能。
  • 在AI国际竞争加剧的背景下，对于Distillation技术的研究和应用受到了广泛关注。
  • 研究者们开始对Distillation技术进行深入的评估，包括其对于数据集和模型的影响。
  • 未来，Distillation技术有望在各个AI应用领域发挥更大的作用。
    • § 02相关报道10 条在档
    1. 01
      MI-Distillation：模型插值推理数据蒸馏方法
      arXiv cs.AI↗
    2. 02
      Act with Intent: Distilling Behavior Intent for Vision-Language-Action Models
      arXiv cs.AI↗
    3. 03
      Parallel Decoding Distillation加速图像与视频生成
      arXiv cs.LG↗
    4. 04
      美国权衡应对中国AI，行业呼吁勿广泛限制开放权重模型
      techcrunch↗
    5. 05
      Miles 引入 OPD：使 Qwen3.5-35B 推理缩短 3 倍且精度提升
      LMSYS Org (SGLang)↗
    6. 06
      On-Policy Delta Distillation：一种新的推理能力蒸馏方法
      arXiv cs.LG↗
    7. 07
      诊断与缓解On-Policy Self-Distillation中的Thinking Collapse
      arXiv cs.LG↗
    8. 08
      弱到强泛化通过Direct On-Policy Distillation
      arXiv cs.AI↗
    9. 09
      On-Policy Self-Distillation with Sampled Demonstrations Reduces Output Diversity
      arXiv cs.LG↗
    10. 10
      重新思考奖励监督：Rubric-Conditioned Self-Distillation
      arXiv cs.AI↗
    § 03邻近话题

    本页综述由 AITOP 基于公开报道整理。原报道版权归各自来源所有。

    /topic/Distillation