论文

研究发现近似 SGD 的生物学可行机制,bio-backprop 无需硬编码

精选理由

讨论了生物合理反向传播的论文,说近似 SGD 的机制可以自己涌现出来,不用硬编码,概念挺有意思的。

一条推特转发讨论了关于生物合理反向传播的论文,提出了一种能在生物系统里近似 SGD 的机制,即 forward、backward 与 bio-backprop 可以自然涌现。作者指出该机制不需要被硬编码进系统。推特作者同时提醒,论文并未证明真实大脑中确实存在这种组织方式。

原文 · Teortaxes

Extremely interesting: the biologically plausible mechanism for approximate SGD, yeah, forward, backward, bio-backprop is possible! …They don't demonstrate that anything like this organizes in real brains. but I like the conceptual angle: it doesn't *need* to be hardcoded. https://t.co/B4E93qGdgL