使用随机扰动的循环神经网络无梯度训练
机器学习
2024-10-02 v3
摘要
循环神经网络（RNN）由于其图灵完备性和序列处理能力而在计算方面具有巨大潜力，然而现有的训练方法面临效率挑战。随时间反向传播（BPTT）作为主流方法，通过在时间上展开 RNN 来扩展反向传播（BP）算法。然而，这种方法存在显著缺陷，包括需要交错进行前向和反向阶段以及存储精确的梯度信息。此外，BPTT 已被证明在长序列中难以传播梯度信息，导致梯度消失。使用基于梯度方法（如 BPTT）的一种替代策略是通过基于扰动的方法随机近似梯度。这种学习方法异常简单，仅需网络中的前向传递和全局强化信号作为反馈。尽管简单，但其更新的随机性质通常导致优化效率低下，限制了其在训练神经网络中的有效性。在本研究中，我们提出了一种新的 RNN 基于扰动学习方法，其性能与 BPTT 相当，同时保持相对于基于梯度学习的固有优势。为此，我们将最近引入的基于活动的节点扰动（ANP）方法扩展至时间域运行，从而实现更高效的学习和泛化。随后，我们进行了一系列实验以验证我们的方法。结果表明，与 BPTT 相比，我们的方法在性能、收敛时间和可扩展性方面相似，且显著优于标准的节点扰动和权重扰动方法。这些发现表明，基于扰动的学习方法为训练 RNN 提供了一种通用的替代方案，可理想地适用于神经形态计算应用。
引用
@article{arxiv.2405.08967,
title = {Gradient-Free Training of Recurrent Neural Networks using Random Perturbations},
author = {Jesus Garcia Fernandez and Sander Keemink and Marcel van Gerven},
journal= {arXiv preprint arXiv:2405.08967},
year = {2024}
}