Epoch AI 推出推理性能指数 IPI：GB300 对 H100 的推理优势被低估 10 倍
Epoch AI 搞了个新指标 IPI，把内存带宽和芯片通信也算进去，发现 GB300 推理比 H100 强 10 倍不止。买卡、估推理容量的人可以拿这套分数当参考。
Epoch AI 发布了新指标 Inference Performance Index（IPI），指出仅看 FLOP/s 会低估 GB300 相对 H100 的推理优势达 10 倍。传统芯片对比方法只计算算力峰值，遗漏了实际推理负载中最关键的因素。
IPI 把内存带宽和芯片间通信纳入考量，这两个因素决定了在给定输出速度下，一块芯片能同时支撑多少用户或智能体请求。该方法以 GB300 等效分数作为统一刻度，让不同芯片可以直接横向比较。
用这种统一分数，开发者可以估算一个数据中心乃至全球的总推理容量，企业采购 GPU 时也有了比 FLOP/s 更贴近实际推理负载的参考标准。
We estimate that FLOP/s alone understates GB300’s inference advantage over H100 by 10×. The standard AI chip comparison misses most of what matters for inference.
We’re introducing the Inference Performance Index (IPI), a new measure that accounts for memory bandwidth and inter-chip communication alongside compute. These factors determine how many users or agents a chip can support simultaneously at a given output speed.
Scores in GB300 equivalents let you compare chips directly and estimate the total inference capacity of a data center, or even the world.
本条情报归属 AITOP「论文」核心栏目，重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中，该动态直接关联「中美大模型技术代差与商业化对照」「AI 开发者工具链、Coding Agent 与工程化实践」研究主线，反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括：GB300、H100、Epoch AI、推理性能，读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明：本文原始线索采编自「Epoch AI」（@EpochAIResearch），经 AITOP 多维评分管线结构化提炼。
