Anyscale 是一家围绕开源分布式计算框架 Ray 构建 AI 基础设施的公司,旗下产品覆盖 Ray 托管平台、分布式推理与模型训练服务,位于大模型工程化落地的基础层。Ray 已成为 PyTorch 生态中处理分布式训练、推理服务和数据处理的主流选择,而 Anyscale 是 Ray 背后的主要商业公司,其近期动向集中在软硬协同、推理扩展和开源社区建设三个方向。
Anyscale 近期进展
软硬集成方面,Anyscale 与 GPU 云厂商 CoreWeave 拆解了双方软硬件集成背后的工程细节,反映其正通过与底层算力厂商深度协作来优化 Ray 在大规模 GPU 集群上的性能表现(Anyscale 与 CoreWeave 拆解软硬件集成背后的工程细节)。
推理服务是当前的重点场景。Coinbase 在 Anyscale 平台上以 AI 智能体自动监控并再训练模型,日均推理量达到 10 亿次,是大规模生产环境推理的代表性案例(Coinbase 用 AI 智能体自动监控并再训练模型,日均推理达 10 亿次);公司同时推出网络研讨会,讲解如何用 Ray Serve 构建可扩展的分布式推理系统(Anyscale 网络研讨会:用 Ray Serve 构建可扩展的分布式推理系统)。
训练侧的提速效果同样被反复验证:Chef Robotics 在 Anyscale 上训练 VLA(视觉-语言-动作)模型时速度提升 10 倍(Chef Robotics 在 Anyscale 上训练 VLA 模型提速 10 倍);卫星影像公司 Xoople 则用 Ray on Anyscale 处理 PB 级全球卫星影像数据(Xoople 用 Ray on Anyscale 处理 PB 级全球卫星影像)。
生态与社区层面,Anyscale 宣布与 Hugging Face 等于 10 月 16 日在旧金山合办开源 AI 聚会(Anyscale 宣布与 Hugging Face 等于 10 月 16 日在旧金山合办开源 AI 聚会),并将在 PyTorch Conference 为 Ray 与 vLLM 团队组织线下交流(Anyscale 将在 PyTorch Conference 举办 Ray 与 vLLM 团队咖啡聚会)。
当前焦点与观察点
Anyscale 当前的问题大致有三条线。一是商业化与开源的平衡:Ray 作为开源项目持续活跃,Anyscale 需要证明托管平台与多云自部署之间的差异化价值,近期支持用户在自有账户部署第三方产品(如 Reflection 的 Beam)即是对“开放部署”诉求的回应。二是与基础设施层的竞合:Ion Stoica 将在 PyTorch 大会上讨论 Ray 与 Kubernetes 的协同演进(Ion Stoica 将在 PyTorch 大会演讲,谈 Ray 与 Kubernetes 协同演进),而云厂商也在把类 Ray 能力内化进自有平台,这一层关系值得关注。三是场景验证:从机器人 VLA 训练、金融级推理到地球观测数据,案例正在从通用计算框架转向具身智能与大规模推理等前沿负载,实际落地效果将决定 Anyscale 在 AI 基础设施竞争中的位置。