#Anyscale
共 13 条 · 7 天 8 条 · 30 天 10 条
信息流里打上「Anyscale」标签的资讯、产品与论文,按刊登时间排,新的在上。
10月18日
10月17日
Anyscale 将在 PyTorch Conference 举办 Ray 与 vLLM 团队咖啡聚会
去 PyTorch Conference 的话可以报名这个咖啡聚会,能当面跟 Ray 和 vLLM 团队聊推理部署的实战问题。
Anyscale 支持在自有账户部署 Reflection 的 Beam
Anyscale 现在能用 Ray Serve LLM 在你自己账户里跑 Reflection 的 Beam,数据主权归你,还不用管运维。
10月16日
Chef Robotics 在 Anyscale 上训练 VLA 模型提速 10 倍
Chef Robotics 用 Anyscale 把机器人 VLA 模型训练提速 10 倍,16 张 A100 上扩展效率有 92%,做机器人训练的可以看看这套做法。
10月15日
Ion Stoica 将在 PyTorch 大会演讲,谈 Ray 与 Kubernetes 协同演进
Ray 作者本人要在 PyTorch 大会讲它和 Kubernetes 怎么配合,搞分布式训练和 AI 基础设施的可以去 San Jose 现场听。
10月14日
Anyscale 宣布与 Hugging Face 等于 10 月 16 日在旧金山合办开源 AI 聚会
Anyscale 和 Hugging Face 10 月 16 号在 SF 办开源 AI 聚会,做开源模型的可以去凑个热闹。
10月13日
Anyscale 将参展 Encord 的 Long Horizon 大会
Anyscale 要去 Encord 办的 Long Horizon 大会了,展位 P1,还有两场关于 Ray 做物理 AI 数据和合成数据生成的演讲,去现场的可以听听。
10月9日
Xoople 用 Ray on Anyscale 处理 PB 级全球卫星影像
卫星影像公司 Xoople 处理整颗行星的 PB 级数据,他们没自建计算层,直接用 Anyscale 上的 Ray,讲了选型原因。
10月8日
Anyscale on Azure 正式可用:在 AKS 上运行完整 AI 工作流
用 Ray 做训练推理的团队可以看看,Anyscale 登陆 Azure 了,数据模型都留在自己租户里,还能直接走 Azure 账单付费。
7月30日
6月19日
Ray Serve LLM 在 GKE 上实现预填负载 4.4 倍、解码负载 24 倍吞吐量提升
Anyscale 和 Google Cloud 联手让 vLLM 推理快了好几倍,预填负载快 4.4 倍,解码负载快 24 倍,用 Ray V2 执行器就能体验。
6月16日
Anyscale团队详解PD Disaggregation with Ray Serve + vLLM在AMD MI325X上测试
vLLM推荐了Anyscale的这篇实战文章,讲清楚了PD Disagg在Ray Serve加vLLM上的做法,还在AMD MI325X上测过,值得搞推理部署的人看看。