进化算法作为反向传播替代方案用于生物物理神经网络与神经 ODE 的有监督训练
神经元与认知
2023-11-22 v2 神经与进化计算
摘要
训练由生物物理精确神经元模型组成的网络可以让我们对脑回路如何组织并解决任务获得新的见解。我们首先分析了神经网络学习的中心算法——通过反向传播（BP）的随机梯度下降——在多大程度上可用于训练此类网络。我们发现，生物物理基神经网络模型为精确建模所需的特性，如刚性、高度非线性以及相对于放电时间较长的评估时间窗，使 BP 在多种情况下不稳定且发散。为解决这些不稳定性并受近期工作启发，我们研究了使用“梯度估计”进化算法（EAs）来训练生物物理基神经网络。我们发现 EAs 具有若干优于直接 BP 的优势，包括仅前向传播、对噪声和刚性损失鲁棒、允许离散损失形式，并可能促进对参数的更全局探索。我们将该方法应用于在刺激整合与工作记忆任务上训练 Morris-Lecar 神经元模型的循环网络，并展示其在直接 BP 不适用的情况下如何成功。为扩展 EAs 总体上的可行性，我们将其应用于一般神经 ODE 问题和刚性神经 ODE 基准，再次发现 EAs 在此可优于直接 BP，尤其在过参数化 regime 下。我们的发现表明，生物物理神经元可提供有用的基准以测试 BP 相关方法的极限，并证明了 EAs 用于训练含复杂组件网络的可行性。
引用
@article{arxiv.2311.10869,
title = {Evolutionary algorithms as an alternative to backpropagation for supervised training of Biophysical Neural Networks and Neural ODEs},
author = {James Hazelden and Yuhan Helena Liu and Eli Shlizerman and Eric Shea-Brown},
journal= {arXiv preprint arXiv:2311.10869},
year = {2023}
}