#归纳偏置

共 3 条 · 7 天 0 条 · 30 天 1 条

GPT-2 1 MoFA 1 Transformer 1 偏微分方程 1 变分自编码器 1 注意力机制 1 潜在表示 1 科学发现 1

信息流里打上「归纳偏置」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月1日

论文 Agent 与开发者10:16

注意力函数作为内在归纳偏置研究

MoFA研究显示注意力函数选择作为先验，在分布内被掩盖，分布外重新显现，影响模型行为。

#MoFA #GPT-2 #注意力机制 #归纳偏置

arXiv cs.LG@Dong Gyun Kang 等 3 人原文

9月1日

通过训练分布中的归纳偏置学习可接受假设的几何结构

这篇论文展示了如何将科学原理嵌入AI训练过程，让模型能更准确地重建偏微分方程，对科学发现很有价值。

#偏微分方程 #变分自编码器 #归纳偏置 #科学发现

arXiv cs.LG@James Crowley 等 3 人原文

5月15日

论文精选10:03

组合稀疏性作为神经架构设计的归纳偏置

这篇论文为高维学习中的稀疏性假设提供了可落地的架构设计思路，做深度学习理论和高效模型设计的开发者值得关注——HNN的稀疏性和低超参数敏感性意味着更少的调参成本和更好的泛化能力。

#组合稀疏性 #归纳偏置 #同调神经网络 #信息过滤网络

arXiv cs.AI@Hongyu Lin 等 4 人原文