AITOPAI热报

Llama-3.2

共 2 条相关 AI 资讯
7月31日
11:33
11:33官方账号arXiv cs.LG@Pere Martra, Eugenio Martínez Cámara, Alfonso Ureña López
Fairness Pruning是一种轻量结构干预方法，用于定位大语言模型中的群体偏见。实验在Llama-3.2系列和Salamandra-2B等最大3B参数模型上进行，结合标准基准和定性生成测试。在Llama-3.2-1B上归零最多40个神经元（不到总MLP宽度的0.031%），推理和通用知识能力保留均值达99.49%。由于BiasScore无符号，候选集混合了促进和抑制刻板印象的神经元，干预导致双向偏见失稳。结果证实群体偏见处理与模型能力运行在可分离的电路上。
论文Llama-3.2Salamandra-2B模型剪枝
推荐理由：这篇论文教你用剪枝定位偏见：最多剪40个神经元，Llama-3.2-1B能力保住99.49%，但偏见不是消失而是换了方向。
原文
5月26日
12:38
12:38官方一手arXiv: DeepSeek@Andreas Opedal, Francesco Ignazio Re, Abulhair Saparov, Mrinmaya Sachan, Bernhard Schölkopf, Ryan Cotterell
精选
研究者将自然语言推理建模为搜索问题，利用 A* 搜索算法指导 LLM 生成正确且高效的推理步骤。通过监督微调（基于 A* 执行轨迹）和强化学习（结合 A* 过程奖励模型），Llama-3.2 1B-3B 模型从近乎零准确率提升至超越 DeepSeek-V3.2。研究发现，简单正确性奖励最大化准确率，而 A* 信号能平衡准确率与效率。在更大搜索空间下，基于不完美启发式的训练反而带来更优准确率。这项工作展示了经典搜索算法指导 LLM 推理的潜力。
论文推理模型A* 搜索后训练
推荐理由：A* 搜索让小模型推理能力大幅跃升，做推理优化或小模型部署的团队值得关注，可以直接参考其训练方法。
原文