arXiv 论文:首个在完全多项式时间内学习 ReLU 正线性组合的算法
一群理论研究者把学 ReLU 线性组合的时间复杂度压到了多项式级别,之前没人做到。做学习理论或理解网络可学性的人可以看看这篇的 boosting 和 Hermite 张量技巧。
一群理论研究者把学 ReLU 线性组合的时间复杂度压到了多项式级别,之前没人做到。做学习理论或理解网络可学性的人可以看看这篇的 boosting 和 Hermite 张量技巧。
论文把PAC学习理论用到符号回归上,证明了组合函数树的样本复杂度不会随深度爆炸,还给了可跑的代码。
这篇论文搞清楚了只给正样本时proper学习到底能学啥,发现了VC维不够用,还新造了个叫“均匀外部可分离性”的条件,搞理论的人值得看。
这篇论文澄清了机器学习理论中一个长期被误解的基础问题——Valiant 原始模型与 PAC 学习的区别,做学习理论或计算复杂度研究的学者值得一读,尤其是对成员查询能力感兴趣的人。