漂移扩散匹配：嵌入非对称神经网络的潜在流形中的动力学

循环神经网络（RNN）提供了理解生物神经回路计算的理论框架，但诸如Hopfield模型的经典结果依赖于对称连通性，限制网络动力学为类梯度流。相反，生物网络通过其非对称性支持丰富的时变行为。本文引入一种通用框架，称为漂移扩散匹配（drift-diffusion matching），用于训练连续时间RNN以在低维潜在子空间中表示任意随机动力学系统。允许非对称连通性，我们展示，RNN能够忠实地嵌入给定随机微分方程的漂移项和扩散项，包括非线性和非平衡动力学，如混沌吸引子。作为应用，我们构建了RNN实现的随机系统，它们通过输入驱动的切换和由非平衡电流驱动的自主转换， transiently探索各种吸引子，我们将其解释为联想记忆和顺序（情景）记忆的模型。为阐明这些动力学如何在网络中编码，我们引入了基于其非对称连通性和时序不可逆性的分解。我们的结果将吸引力神经网络理论扩展到非平衡情形，表明非对称神经群体可以在低维流形中实现广泛的动力学计算，统一了联想记忆、非平衡统计力学和神经计算的想法。