EAGLE-4

EAGLE-4 是 Eagle Corp 开源的自适应推测解码（Speculative Decoding）框架的最新版本，用于在不改动原始大模型权重的前提下加速 LLM 文字生成速度，近期发布后引起了推理加速领域的关注。

EAGLE-4 近期进展

Eagle Corp 开源 EAGLE-4：自适应推测解码加速 LLM 推理：Eagle Corp 正式开源 EAGLE-4，主打自适应推测解码路线，即通过一个轻量草稿模型预测 token，再由目标模型验证，无需修改被加速的模型本身。

EAGLE-4 发布：无需改动模型，LLM 文字生成速度提升近 3 倍：实测显示 EAGLE-4 可将文字生成速度提升近 3 倍，且部署方不需要对目标模型做任何改动，这降低了接入门槛。

EAGLE-4 推测解码达 863.8 tokens/s，比 DFlash 2 快 1.28 倍：基准测试中 EAGLE-4 达到 863.8 tokens/s 的生成速度，相比同类方案 DFlash 2 快 1.28 倍，显示了推测解码领域内部竞争的激烈程度。

fal 与 Fireworks AI 合作提前上线 EAGLE-4：推理平台 fal 与 Fireworks AI 合作提前上线了对 EAGLE-4 的支持，说明开源社区与商业推理服务之间的落地衔接正在加速。

推测解码目前是大模型推理优化的主要方向之一。其基本思路是用小模型先起草稿、大模型并行验证，从而在不损失生成质量的情况下提升吞吐。EAGLE 系列是该方向上被广泛引用的代表作，每一代升级都围绕草稿模型的结构和接受率做改进。

值得注意的是，这个赛道竞争已经很密集：同一时期开源的 Woodcock 等工具宣称能让 Qwen3-1.7B 提速至 300 tok/s，DFlash 2 等方案也在与 EAGLE-4 直接对标。各家公布的成绩往往依赖特定的模型、硬件和测试条件，横向对比时需要留意基准设置是否一致。

后续可以观察的点包括：EAGLE-4 在不同规模模型上的加速比是否稳定，fal、Fireworks AI 等平台的实际使用反馈，以及自适应草稿策略是否会成为下一代推理框架的标配。