Gemma3 相关 AI 资讯 · AITOP · AI热报

8月24日

00:18

00:18

elvis@omarsar0

精选

Google DeepMind提出一种无需训练的模型架构进化方法，通过模型自身反馈进行架构修改。在Gemma3系列上，自适应变体将困惑度降低23%，GSM8k准确率提升21%，仅进行轻微超参数调整。

论文 Google DeepMind 模型架构进化无需训练

推荐理由：强烈推荐这篇来自Google DeepMind的论文，它提出了一种有趣的无需训练的模型架构进化方法，对递归自我改进方法有启发。

8月19日

11:39

11:39

官方账号arXiv cs.LG@Michael C. Mozer, Shoaib Ahmed Siddiqui, Danny Sawyer, Sunny Sanyal, Rosanne Liu

Recirculation技术为现成基础模型提供推理时架构增强，在Gemma3系列上实现困惑度降低23%。该方法在生成过程中几乎不增加延迟，但在预填充阶段需要串行处理。自适应变体在冻结原始模型权重的同时仅需轻微调整超参数，在GSM8k基准测试上准确率提高21%。该技术通过利用模型自身特性指导架构修改，实现了训练-free的显著性能提升。

论文 Recirculation Gemma3 推理模型

推荐理由：研究人员提出Recirculation技术，让Gemma3模型困惑度降23%，准确率提21%，还不增加推理延迟。