CatBoost 是由 Yandex 开发的开源梯度提升决策树(GBDT)库,以原生支持类别特征和处理有序目标编码著称,至今仍是表格数据建模的主力工具之一。在大语言模型席卷各领域的背景下,CatBoost 所代表的树模型路线并未退场,反而在工业界与学术研究中频繁作为基线出现,尤其在结构化数据、小样本和低延迟推理场景中保持竞争力。
CatBoost 在工业落地中的应用
与基础模型的对比测试
当前焦点与观察点
围绕 CatBoost 的讨论正在从"是否被 LLM 取代"转向更实际的分工问题。目前的共识大致是:对纯表格数据、需要可解释性和快速推理的业务场景,梯度提升树仍是性价比最高的选择;而在文本、影像等非结构化数据上,基础模型优势明显。
值得关注的方向有三点:一是分类头与特征提取器的组合策略——用基础模型提特征、用 CatBoost 等树模型做下游分类,正在成为医学影像和小样本任务的常见配方;二是时序预测中树模型与时序基础模型的基线对比标准尚未统一;三是各大云平台(如 SageMaker)对树模型训练部署的原生支持,持续降低了工业落地门槛。总体来看,CatBoost 并未过时,而是在与基础模型的混合架构中找到了新的位置。