Saidzoda-Kazakh-EmbeddingGemma-300M：单轮微调将哈萨克语检索 recall@1 提升至 78.0%

研究团队基于开源嵌入模型 EmbeddingGemma-300M，用 208,511 对样本微调一个 epoch，得到 Saidzoda-Kazakh-EmbeddingGemma-300M。训练数据包括由自研语言模型针对百科、Wikipedia、新闻和书籍文本生成的 166,263 条哈萨克语问题，每条经第二个模型校验，另加入英语和俄语回放数据。 在 Kazakh Belebele 检索测试上，模型的 recall@1 从原始的 60.8% 升至 78.0%，recall@10 从 76.3% 升至 91.4%。在 MTEB 同一测试中，该模型超过 194 个已公布成绩模型中的 161 个，包括 OpenAI text-embedding-3-large（47.1%）。在 Hugging Face 上 6 个哈萨克语专用嵌入模型的同代码评测中，它以 77.3% 领先其中 4 个，包括两个同规模 E5-base 模型（72.6% 和 69.0%），但落后于总参数量 1,695M 的 kaz-embedder（86.0%）和 BGE-M3 微调版（81.0%）。 模型在乌兹别克语和吉尔吉斯语 Belebele 上也高于原始版本，但未使用任何突厥语对的塔吉克模型获得相近提升，说明这部分增益并非哈萨克语训练特有。此外，哈萨克语 Wikipedia 测试问题与训练问题出自同一生成器家族，因此主要结论以 Belebele 为准。