Embedding(嵌入向量)是一种把文本、图像等数据映射为高维数值向量的技术,使机器能够通过向量间的距离计算语义相似度,是当前语义搜索、检索增强生成(RAG)和推荐系统的核心基础设施。随着大模型应用普及,围绕 embedding 模型选型、向量数据库生态与表征可迁移性的讨论持续升温。
Embedding 近期进展
当前焦点与观察点
当前 embedding 领域的竞争焦点集中在两条线上:一是工具链的易用化,Pinecone、Milvus(Zilliz)等向量数据库厂商正把自动向量化、混合检索封装成开箱即用的 API,争夺 RAG 开发者;二是模型层面的标准化,开源小模型与闭源商用模型的差距在收窄,但模型版本迭代带来的索引重建成本仍是生产环境的主要顾虑。
值得关注的研究方向还包括表征本身的性质。有论文发现 LLM 潜在空间会自发形成类似荣格原型的结构,另有工作将嵌入空间用于强化学习探索和扩散语言建模,说明 embedding 作为通用表征层正在向搜索之外的更多场景扩展。对开发者而言,观察点是混合检索(语义+全文)的落地效果,以及模型升级免重建索引这类方案能否成为行业惯例。