11:40
官方账号arXiv cs.LG@Emma Ceccherini, Daniel Lawson, Anjulika Salhan
推荐理由：研究显示小型语言模型通过嵌入几何分析，在发票分类上超越大模型，仅需少量样本就能达到高准确率。
SBERT
共 1 条相关 AI 资讯
8月19日
11:40
研究分析了SBERT和DeBERTa预训练模型的嵌入几何结构，发现财务语料库的句子嵌入空间由与供应商身份强相关的局部各向同性簇组成。在单个GPU上微调的SBERT在发票分类任务上达到0.96的准确率，优于零样本LLM和供应商身份基线。对于这一重要泛化问题，SBERT仅需约100个客户特定发票即可达到0.9的F1分数，表明内部SLM实施方案具有良好前景。