中文

CORNN:用于神经动力学快速推断的循环神经网络凸优化

神经元与认知 2023-11-20 v1

摘要

光学与电生理记录技术的进展使得记录数千个神经元的动态成为可能,为在行为动物中解释与控制大型神经群体开辟了新可能。从这类大型数据集中提取计算原理的一种有前景的方法是训练数据约束循环神经网络(dRNNs)。实时执行该训练可为实现以单细胞分辨率建模与控制干预并驱动期望动物行为形式的研究技术与医学应用打开大门。然而,现有的 dRNN 训练算法效率低下且可扩展性有限,使得即便在离线场景下分析大型神经记录也具有挑战性。为解决这些问题,我们引入一种称为循环神经网络凸优化(CORNN)的训练方法。在模拟记录研究中,CORNN 达到了比传统优化方法快约 100 倍的训练速度,同时保持或提升了建模精度。我们进一步在具有数千个细胞、执行如 3 位触发器或定时响应执行等简单计算的模拟上验证了 CORNN。最后,我们表明即便在生成器与推断模型不匹配、观测神经元严重欠采样或神经时间尺度不匹配的情况下,CORNN 也能稳健地复现网络动态与底层吸引子结构。总体而言,CORNN 在标准计算机上以亚分钟处理时间训练具有数百万参数的 dRNN,构成了迈向基于大规模神经记录约束的实时网络复现的第一步,也是推进神经计算理解的有力计算工具。

关键词

引用

@article{arxiv.2311.10200,
  title  = {CORNN: Convex optimization of recurrent neural networks for rapid inference of neural dynamics},
  author = {Fatih Dinc and Adam Shai and Mark Schnitzer and Hidenori Tanaka},
  journal= {arXiv preprint arXiv:2311.10200},
  year   = {2023}
}

备注

Accepted at NeurIPS 2023