Learnable

general · 首次出现 2026-05-22 · 最近出现 2026-10-15 · 累计提及 9

综述

Learnable(可学习)是机器学习中的核心概念,指模型中可以通过训练数据和优化算法自动调整、习得的参数或结构。近年来,这一概念已从单纯的权重参数扩展到提示词、专家路由、环境生成等更广泛的可学习组件,成为当前 AI 研究的一个活跃方向。

Learnable 相关研究的近期进展

  • 概念约束提示学习用于少样本CLIP适应:该工作探索将可学习提示(learnable prompts)与概念约束结合,用于少样本场景下的 CLIP 模型适应,延续了提示学习这一“不改动主干、只学少量参数”的技术路线。
  • dMoE:带可学习块专家的动态MoE模型:混合专家(MoE)架构中引入可学习的块状专家,使专家划分和激活策略本身成为训练过程中可优化的对象。
  • From Failures to Learnable Worlds:提出策略条件化的环境生成方法,把导航智能体的失败案例转化为可学习的环境分布,用于更高效的训练。
  • Pseudorandom Streams within Diffusion Models Act as Learnable Inputs That Affect Generation Quality:研究发现扩散模型中的伪随机噪声流本身可以作为可学习输入,并对生成质量产生实际影响。
  • 其他方向还包括面向稳态偏微分方程代理模型的可学习 Hodge-Laplacian 专家混合(arXiv)、带路由记忆的可学习稀疏注意力 ARM(arXiv),以及对 Valiant 可学习理论的反思性研究(arXiv)。

    当前焦点与观察点

    从近期论文分布看,Learnable 的研究重心呈现出两个趋势:一是可学习对象的泛化——从传统的网络权重扩展到提示词、噪声流、专家结构和训练环境,即“哪些部分值得设计为可学习”成为方法论问题;二是与稀疏化、模块化架构的结合,如动态 MoE 和路由记忆,试图在控制计算成本的同时保留学习能力。

    值得观察的点包括:可学习组件增多后带来的训练稳定性与超参负担问题;理论层面(如 Valiant 学习理论的重新审视)能否为“什么在什么条件下可学习”提供更清晰边界;以及这些方法从学术原型走向工业级大模型部署的实际收益仍待验证。

    相关报道

    8 条在档
    Learnable · AI 话题观测|AI热报