LoRA(低秩适应)是一种高效的大型语言模型微调技术,通过低秩矩阵分解显著减少微调参数量,使模型能在有限计算资源下实现个性化定制。近期,阿里研究人员量化分析了LoRA适配器的共现规律,发现首个适配器会带来66.1%的延迟开销,这一数据为优化LoRA应用提供了重要参考。
LoRA
general · 首次出现 2026-05-22 · 最近出现 2026-10-19 · 累计提及 387
综述
相关报道
10 条在档- NVIDIA 开源 Nemotron 3.5 Super VL:120B MoE 多模态智能体模型,每 token 仅激活 12BNVIDIA AI
- Thinking Machines 实验室发布 AutoInfra:面向并行实验的训练基础设施Salesforce AI Research
- Reflection-Beam-1.0 获 vLLM Day-0 支持:501B 参数、1M 上下文vLLM
- Reflection-Beam-1.0 发布,vLLM 提供 Day-0 支持vLLM
- 理论解释为何 LoRA 低秩就够:瓶颈秩决定最优解秩arXiv cs.LG
- Sakana AI 推出 The Agentic Scientist,与人类共同开展科研Sakana AI
- Sakana AI 推出 The Agentic Scientist:用编码智能体自动做科研Sakana AI
- ComfyUI上Qwen-Image 2.1出图配方与136个姿势库Geek
- LlMBO:用贝叶斯优化微调 LLM,算力远低于 GRPOarXiv cs.LG
- inLoRA-MINT:用中间表征审计 LoRA 微调模型的训练数据arXiv: DeepSeek