探索用于时间与决策任务的循环神经网络训练中的权重初始化、解多样性与性能退化
神经元与认知
2023-06-29 v6 神经与进化计算
摘要
循环神经网络（RNNs）常用于建模脑功能与结构的各个方面。本工作中，我们训练小型全连接 RNN 以执行具有时变刺激的时间与流控制任务。我们的结果表明，不同 RNN 可通过收敛至不同底层动力学来解决同一任务，并且当网络规模减小、间隔时长增加或连接损伤增大时，性能如何优雅退化。针对所考虑的任务，我们探究了训练后所得网络依据任务参数化的鲁棒性。在此过程中，我们开发了一个可有助于参数化计算神经科学中其他感兴趣任务的框架。我们的结果有助于量化模型的多个方面，这些模型通常用作黑箱，需被理解以建模大脑皮质区的生物响应。
引用
@article{arxiv.1906.01094,
title = {Exploring weight initialization, diversity of solutions, and degradation in recurrent neural networks trained for temporal and decision-making tasks},
author = {Cecilia Jarne and Rodrigo Laje},
journal= {arXiv preprint arXiv:1906.01094},
year = {2023}
}