百度首次用RSI递归自我改进优化文心推理,昆仑芯 P800 出字速度提升 6.24 倍
百度让 AI 自己改文心的推理代码,工程师只划定可改范围,昆仑芯 P800 上出字速度做到原来的 6.24 倍,还有一项测试吞吐多 33.7%。做推理部署和自研优化的团队可以看看这套流程怎么搭的。
百度宣布首次将 RSI(递归自我改进)技术用于文心(ERNIE)推理优化。工程师先划定 AI 可修改的代码范围,之后由 AI 自主定位性能瓶颈、改写代码、运行测试,只有改动后跑得更快且输出结果保持一致,才会被保留合并。
具体成绩方面:在昆仑芯 P800 的一项低延迟测试里,出字速度达到优化前的 6.24 倍;另一项 GPU 测试中输出保持一致,同样时间内吞吐量多处理 33.7%。
RSI 的核心是让 AI 参与改进自身运行的基础设施,百度的做法是用人工设定的边界约束改动范围,以性能提升和结果一致性作为自动验收门槛。这类自主代码优化此前多见于编译器调优和内核优化场景,用于大模型推理服务优化在国内属于较早的落地案例,对推理成本敏感的部署方有直接参考价值。
百度称,这是第一次用RSI技术给参与文心推理优化,工程师划好能改的范围,AI 自己找哪里慢、改代码、跑测试 改完跑得更快,结果也对得上,才留下改动 看来RSI(递归自我改进)确实是下一个热门前沿方向... 在昆仑芯 P800 的一项低延迟测试里,出字速度达到改之前的 6.24 倍 另一项 GPU 测试里,输出保持一致,同样时间能多处理 33.7%...📊 1 ⚡
本条情报归属 AITOP「模型」核心栏目,重点聚焦中国 AI 产业与国产大模型生态。在跨区域产业观察坐标中,该动态直接关联「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:文心大模型、百度、昆仑芯、RSI,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「小互」(@imxiaohu),经 AITOP 多维评分管线结构化提炼。