行业多源确认

Notion 用 Ray Data 替换 Spark,扩展面向数百万用户的 AI 搜索

精选理由

Notion 的工程师讲了他们把嵌入生成从 Spark 换成 Ray Data 的真实原因:几 TB 数据、CPU 和 GPU 混跑一条管线。正在搭向量检索或 RAG 数据管线的后端工程师可以对照看看自己的架构。

Notion 为支持数百万用户的 AI 搜索,将嵌入生成管线从 Spark 迁移到 Anyscale 上的 Ray Data。

正文

工程师 Mickey Liu 分享了这次迁移的实践细节,新管线要在数 TB 级数据上生成 embeddings。迁移后 CPU 与 GPU 工作负载可整合到同一条数据管线中,不再需要在两套系统间拼接处理流程。

这条管线是 Notion AI 搜索体验的基础设施,决定了嵌入生成的规模与效率。对其他需要在海量文档上批量生成 embeddings 的团队来说,这是一个可直接参考的架构选择案例。

原文 · Anyscale

@Notion is scaling AI search for millions of users.

Mickey Liu shares how moving from Spark to Ray Data on Anyscale helps generate embeddings across terabytes of data, with CPU and GPU workloads in one pipeline.

Watch: https://t.co/WOk33LA6Hx

产业坐标与信源核验

本条情报归属 AITOP「行业」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Notion、Anyscale、Ray Data、嵌入,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「Anyscale」(@anyscalecompute),经 AITOP 多维评分管线结构化提炼。截至目前,全网已有 6 家独立信源对该事件进行交叉印证与跟进报道(含 PyTorch、Claude、Akshay Kothari 等),属于近期高关注度行业信号。