#GLiDE

共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「GLiDE」标签的资讯、产品与论文,按刊登时间排,新的在上。
11月20日
GLiDE:从推理教师蒸馏的单次前向决策模型,0.4B 到 27B

适合做低延迟决策场景的工程师看看。GLiDE 用蒸馏把推理模型的能力塞进单次前向,27B 版延迟不到 100ms 还自带校准分数,比跑完整推理链省太多算力了。做分类、路由这类要快速出答案的活儿可以参考它的做法。

arXiv cs.AI@Sahibzada Allahyar 等 5 人原文