利用自顶向下信用分配网络对深度神经网络进行生物学合理训练
神经与进化计算
2024-02-29 v2 机器学习
摘要
尽管基于反向传播算法的深度神经网络已被广泛采用，但 BP 算法的生物学不可行性可能限制新 DNN 模型的发展。为寻找一种可替代 BP 的生物学合理算法，我们聚焦于生物大脑中固有的自顶向下机制。尽管生物大脑中的自顶向下连接在高阶认知功能中起着关键作用，但其在神经网络学习中的应用仍不明确。本研究提出了一种双层训练框架，旨在利用自顶向下信用分配网络（TDCA-network）训练自底向上网络。TDCA-network 作为传统损失函数与反向传播算法的替代，后者在神经网络训练中被广泛使用。我们进一步引入了一种受大脑启发的信用扩散机制，显著降低了 TDCA-network 的参数复杂度，从而在不损害网络性能的情况下极大加速训练。我们在非凸函数优化、监督学习与强化学习上的实验表明，训练良好的 TDCA-network 在各种设置下均优于反向传播。损失景观中更新轨迹的可视化表明，TDCA-network 能够绕过 BP 轨迹通常陷入的局部极小值。TDCA-network 在多任务优化中也表现优异，在监督学习中展现出跨不同数据集的鲁棒泛化能力，在强化学习中展现出对未见任务设置的鲁棒泛化能力。此外，结果表明 TDCA-network 在训练多种架构的神经网络方面具有可观潜力。
引用
@article{arxiv.2208.01416,
title = {Biologically Plausible Training of Deep Neural Networks Using a Top-down Credit Assignment Network},
author = {Jian-Hui Chen and Cheng-Lin Liu and Zuoren Wang},
journal= {arXiv preprint arXiv:2208.01416},
year = {2024}
}