非线性感知器中的监督学习与强化学习动力学

大脑或神经网络高效学习的能力在很大程度上取决于任务结构和学习规则。先前的工作在学生-教师框架或线性化输出假设下，对感知器学习的动力学方程进行了分析。尽管这些假设有助于理论理解，但限制了对非线性性和输入数据分布在决定学习动力学中作用的详细理解，使理论难以适用于真实生物或人工神经网络。本文采用随机过程方法推导描述学习的流方程，将该框架应用于执行二进制分类的非线性感知器。我们描述了学习规则（监督学习或强化学习，SL/RL）和输入数据分布对感知器学习曲线和遗忘曲线（即后续任务学习的遗忘情况）的影响。特别地，我们发现输入数据噪声在 SL 与 RL 下对学习速度的影响不同，以及决定后续学习如何快速覆盖先前学习任务的机制。此外，我们使用 MNIST 数据集验证了该方法。该方法指向了分析更复杂电路架构学习动力学的方向。