#DFly

共 3 条 · 7 天 0 条 · 30 天 1 条

AngelSpec 2 推理加速 2 DSpark 1 HY3 1 Hy3-A21B 1 Tencent Hunyuan 1 开源模型 1 投机解码 1

信息流里打上「DFly」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月8日

论文 Agent 与开发者精选11:05

论文提出 EDR 目标函数优化并行投机解码草稿模型训练

一篇加速 LLM 推理的论文，把投机解码建模成马尔可夫过程，微调 DSpark 和 DFly 后在九个基准上超过原有训练方法。

#投机解码 #DSpark #DFly #推理加速

arXiv cs.AI@Yunxiao Zhao, Changxiao Cai原文

7月30日

模型 Agent 与开发者官方一手18:14

腾讯开源AngelSpec：HY3模型上MTP与块并行推测解码的统一训练框架

腾讯刚开源了AngelSpec，一个统一训练推测解码草稿模型的框架。它带的DFly块扩散器能让HY3模型推理快最多2.4倍，还支持六种架构，实用性强。

#AngelSpec #DFly #腾讯 #推测解码

官方一手marktechpost@Michal Sutter原文

7月29日

模型 Agent 与开发者精选72°21:23

腾讯混元开源AngelSpec投机解码框架，DFly实现1.98-2.40倍加速

腾讯混元开源了AngelSpec，一个能帮你的模型推理提速近2倍的投机解码框架，实测比DFlash还快10%以上，代码和权重都直接可用了。

#AngelSpec #DFly #Tencent Hunyuan #Hy3-A21B

Hunyuan@TXhunyuan原文