Modal 是一个面向 AI 与数据团队的云端算力平台,开发者无需自建集群即可在云 GPU 上运行和扩缩机器学习负载。随着大模型推理与训练需求激增,GPU 资源长期供不应求,Modal 近期的动向因此受到行业关注。
Modal 近期进展
据 The Information 报道,GPU 短缺严重,Modal 从 30 多家小型云厂商调度算力。面对头部云厂商 GPU 供不应求的局面,Modal 采取了非常规的供给策略,将调度范围扩展到大量规模较小的云服务商,以保障客户的算力需求。相关报道进一步指出,算力短缺背景下 Modal 已接入 30 多家小型云服务商,这一数字反映了当前 GPU 市场的紧张程度:即便是有稳定供应链的平台,也需要跨多家供应商拼凑资源。
同期,AI 基础设施生态的其他环节也在密集动作。首届 SGLang Summit 上发布了 SGLang v1.0 并成立九家成员联盟,NVIDIA、AMD、Intel、Google、Meta 等公司加入该推理引擎联盟。推理侧的标准化与开源协作,与 Modal 这类算力调度平台形成互补:一个优化模型运行效率,一个解决资源从哪来的问题。
当前焦点与观察点
当前围绕 Modal 的核心话题是 GPU 供给格局的变化。头部云厂商的高端 GPU 长期排队,促使 Modal 这类平台转向长尾供应商,这既是权宜之计,也可能演变为一种新的分布式算力调度模式。值得观察的是这种模式的成本、稳定性与合规性表现。
另一个观察点是平台间竞争。Kaggle 发布的 AgenticRL-Bench 基准中 GPT-6.1 Sol 以 22.8% 居首,显示模型能力仍在快速迭代,这会持续推高推理算力需求。对 Modal 而言,能否在算力紧缺周期中维持稳定供给和合理定价,将决定其在 AI 基础设施层级中的位置。