事件专题 ·多源确认

Eagle Corp 开源 EAGLE-4:自适应推测解码加速 LLM 推理

Eagle Corp 发布开源推测解码方案 EAGLE-4,单一 drafter 可根据 batch size、硬件和负载自适应调整解码策略,同时保持目标模型的输出分布。官方使用 Qwen3.8-27B 作为目标模型进行测试,在 4 块 NVIDIA B300 上达到 961.6 tokens/s。Eagle 是一家 AI 推理平台公司,客户包括 NVIDIA、Meta、Intel、AMD 和 Perplexity。

当前结论

做 LLM 部署的可以看看,EAGLE-4 开源了,推测解码能自适应硬件和负载,Qwen3.8-27B 实测跑到 961.6 tokens/s。

11 个信源58° AI 热度最后更新 2026/10/20 22:02:03

证据链

11 个信源

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。