Stanford 团队提出 Speculative Self-Distillation，减少 38–69% 训练 token 并缓解遗忘
斯坦福组这篇 NeurIPS 2026 论文思路很巧：老师只在学生写偏时才接管，训练 token 直接省 38–69%，遗忘也从掉 4.5 分降到 1.4 分。做企业文档微调、怕把基座模型练废的开发者可以认真看看这套自蒸馏流程。
#Speculative Self-Distillation
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「Speculative Self-Distillation」标签的资讯、产品与论文，按刊登时间排，新的在上。
11月13日
