基于优化的平衡态测度描述非平衡稳态动力学:在混沌边缘的应用
神经元与认知
2024-12-05 v2 统计力学
神经与进化计算
摘要
理解神经动力学是机器学习、非线性物理和神经科学的核心课题。然而,该动力学具有非线性、随机性且特别是非梯度特性,即驱动力无法写为势能的梯度。这些特征使得解析研究极具挑战性。常用的工具是路径积分方法或动力学平均场理论,但其缺点在于必须求解积分微分方程或动力学平均场方程,这不仅计算成本高,且通常没有闭式解。从相关的 Fokker-Planck 方程角度来看,稳态解通常是未知的。在此,我们将寻找稳态视为一个优化问题,构建一个与动力学速度相关的近似势,并发现寻找该势的基态等价于运行近似的随机梯度动力学或 Langevin 动力学。仅在零温极限下,才能实现原始稳态的分布。由此产生的动力学稳态严格遵循正则玻尔兹曼测度。在此框架内,神经网络中固有的淬火无序可以通过复本法(replica method)进行平均,从而自然地导出非平衡稳态的序参量。我们的理论重现了著名的混沌边缘结果,进一步推导了表征连续相变的序参量,并将这些序参量解释为稳态的涨落和响应。因此,我们的方法为解析研究确定性或随机高维动力学的稳态景观打开了大门。
引用
@article{arxiv.2401.10009,
title = {An optimization-based equilibrium measure describes non-equilibrium steady state dynamics: application to edge of chaos},
author = {Junbin Qiu and Haiping Huang},
journal= {arXiv preprint arXiv:2401.10009},
year = {2024}
}
备注
21 pages, 9 figures, revised version 2