Capacity

general · 首次出现 2026-05-22 · 最近出现 2026-11-19 · 累计提及 150

综述

Capacity(算力容量)指大模型服务可提供的推理与训练计算资源总量,是 AI 行业当前最稀缺的资源之一。随着模型使用量激增,容量不足直接表现为用户端的"at capacity"报错、响应降级,以及企业端的算力争夺与长协锁定,已从技术问题演变为商业与产业博弈的焦点。

Capacity 的近期进展

  • OpenAI 推出"保证容量"服务,客户可锁定 1-3 年算力:OpenAI 正式推出 Guaranteed Capacity 服务,企业客户可按 1-3 年期限锁定专属算力。Sam Altman 同步在 X 上确认了这一长期算力保障机制,意味着头部模型厂商开始以合同形式分配稀缺容量。
  • Meta 利用闲置推理算力提升广告推荐效果:Meta 工程博客介绍了将"机会性"闲置推理容量用于广告与推荐系统的做法,展示了大厂如何在高峰与低谷之间动态调度容量以提高利用率。
  • 用户吐槽 ChatGPT 质量下滑:Sol 6 频繁容量报错,Luna 任务完成度崩塌:用户反馈 ChatGPT 频繁提示"Selected model is at capacity",部分模型任务完成质量同步下滑,反映出容量紧张正传导为实际体验问题。
  • 日本 TEPCO 出手整治 AI 数据中心"占位不用电"现象:日本电力公司针对预留电力却未实际使用的 AI 数据中心进行治理,说明容量竞争已延伸到电力基础设施层面。
  • 当前焦点与观察点

    当前的 capacity 之争呈现三层结构。第一层是用户侧体验:容量告急时厂商往往降级模型或限流,"at capacity"报错与质量波动成为用户最直接的感知。第二层是商业侧分配:OpenAI 的 Guaranteed Capacity 把容量变成可签长约的商品,类似云时代的预留实例,但价格与优先级机制尚不透明。第三层是基础设施侧约束:TEPCO 治理"占位不用电"表明,真正的瓶颈正从 GPU 转向电力与机房,抢占资源而未投产的行为开始受到监管约束。

    值得关注的问题包括:长协锁定是否会挤压中小开发者的可用容量;闲置容量的动态调度(如 Meta 的做法)能否成为行业标配;以及离线审计与容量感知类研究(如针对医院再入院预测偏差的容量感知策略)提示的方向——容量约束不应只被视为工程问题,也会影响模型部署决策与公平性。总体来看,capacity 在未来一段时间仍将是衡量 AI 厂商真实供给能力的核心指标。

    相关报道

    10 条在档