Mistral 7B 相关 AI 资讯 · AITOP · AI热报

8月12日

18:39

18:39

官方一手arXiv: DeepSeek@Liang Zhang, Stephen Hwang, Yue Ma, Jinfa Cai

一项研究测试了LoRA监督微调能否提升LLM在数学隐喻编码任务上的表现。研究者使用2,265条6-8年级学生回答，让模型完成效价强度编码和主题编码。对比了GPT-4o mini、GPT-5 mini与DeepSeek-R1 1.5B、Mistral 7B，微调后开源模型性能大幅提升，且与专有模型竞争甚至超越。结果表明紧凑开源模型可支持可扩展、隐私友好的教育测量。

论文 LoRA 微调 DeepSeek-R1

推荐理由：想知道小模型微调后能不能干过大厂API？这篇用2千多条真实学生数据实测，DeepSeek-R1 1.5B微调后比GPT-5 mini还稳。

7月28日

10:29

10:29

Jerry Liu@jerryjliu0

Ramp Labs 开源了 PorTAL 框架，用于共享任务表示和跨模型 LoRA 适配。该框架目前支持 Gemma 4 E2B、Mistral 7B 和 Thinky Machines 的 Inkling 模型，覆盖混合注意力模型和多模态系统。代码已在 ramp-public/portallib 仓库中公开，模型托管于 Hugging Face 的 RampPublic 组织。

AI模型 PorTAL Ramp Labs LoRA

推荐理由：如果你做 LoRA 微调或想用一个框架搞定 Gemma、Mistral 和 Inkling 多个模型的适配，可以看看 Ramp 开源的 PorTAL。