Notion 用 Ray Data 替换 Spark,扩展面向数百万用户的 AI 搜索
Notion 的工程师讲了他们把嵌入生成从 Spark 换成 Ray Data 的真实原因:几 TB 数据、CPU 和 GPU 混跑一条管线。正在搭向量检索或 RAG 数据管线的后端工程师可以对照看看自己的架构。
Notion 的工程师讲了他们把嵌入生成从 Spark 换成 Ray Data 的真实原因:几 TB 数据、CPU 和 GPU 混跑一条管线。正在搭向量检索或 RAG 数据管线的后端工程师可以对照看看自己的架构。
GPT Researcher用Jev替换嵌入后,RAG系统效果显著提升,成本不变,还能完全抛弃嵌入层。
这篇论文提出一种叫 NNN 的解码方法,能比传统向量点积检索挑出更多样化的文档,在多个基准上都有提升,做搜索相关的值得看看。
想用 PostgreSQL 做向量搜索的开发者可以直接跟着教程在 Colab 里跑通,省去环境配置的坑,四种搜索模式覆盖了从基础到高级的需求。