论文精选

DecisionRAG:用决策模型替代传统排序实现快速精准检索

精选理由

把资料库整理成图书馆那样的层级结构,用决策模型逐层打分查找,200 多万段落不到 2 秒查完,比传统 RAG 检索还准,思路很聪明。

DecisionRAG 用 Jev 类决策模型代替传统的搜索重排方案,模仿人类在图书馆查书的方式,把资料库组织成从大分类、文章标题到具体段落的层级结构。决策模型不做逐字文本生成,而是在单次计算中对同级选项同时打分,逐层筛选最有价值的分支。面对维基百科超过 268 万个段落的资料库,系统能在 0.7 到 1.8 秒内完成查找,单次查询成本仅 0.2 到 2.3 美分。在多个问答测试集上,其准确率比传统搜索加重排方案高出十几个百分点,速度比让普通大模型逐步思考快 30 多倍。

原文 · Gorden Sun

DecisionRAG:用决策模型实现快速且精准的搜索

非常巧妙的思路,用Jev类决策模型来代替传统的搜索排序工具。这个方法借鉴了人类在图书馆查书的习惯,把庞大的资料库整理成大分类、文章标题到具体段落的层级结构。决策模型不需要逐字生成文本,只需在单次计算中对同级的所有选项同时打分,逐层筛选出最有价值的分支。

实际测试中,即使面对维基百科超过 268 万个段落的庞大资料库,系统也能在 0.7 到 1.8 秒内完成精准查找,单次查询成本只有 0.2 到 2.3 美分。在多个问答测试集上,这项技术不仅比传统搜索加重排方案的准确率高出十几个百分点,还比让普通大模型慢慢思考查找快了 30 多倍。

论文:https://t.co/kJEiEbpa4o