Epoch AI 测算:智能体推理容量一年增长 4.6 倍,远超算力增速
Epoch AI 自建的 IPI 指数显示推理容量增速是算力增速的近两倍,Blackwell 一家占了 74%。如果你在规划推理成本或采购 GPU,这个数据说明光看 FLOP/s 会算错账,值得看看指数的口径怎么搭的。
Epoch AI 自建的 IPI 指数显示推理容量增速是算力增速的近两倍,Blackwell 一家占了 74%。如果你在规划推理成本或采购 GPU,这个数据说明光看 FLOP/s 会算错账,值得看看指数的口径怎么搭的。