重尾循环神经网络中向低维混沌的缓慢转变
神经元与认知
2025-10-27 v2 神经与进化计算
生物物理
摘要
越来越多的证据表明，大脑中的突触权重服从重尾分布，但大多数循环神经网络（RNN）的理论分析假设高斯连接性。我们系统地研究了从生物学合理出发、服从 Levy alpha-stable 分布的随机权重 RNN 的活动。虽然无限系统的平均场理论预测静息态始终是不稳定的——意味着混沌普遍存在——但我们的有限尺寸分析揭示了静息态与混沌动力学之间的急剧转变。我们从理论上预测了系统从静息态转变为混沌动力学的增益，并通过仿真进行了验证。与高斯网络相比，重尾 RNN 在混沌边缘附近展现出更宽的参数区间，即向混沌的缓慢转变。然而，这种鲁棒性存在权衡：更重的尾部降低了吸引子的 Lyapunov 维度，表明有效维度更低。我们的结果揭示了混沌边缘附近动力学鲁棒性与高维神经活动丰富性之间的生物学一致权衡。通过解析刻画有限尺寸网络中的转变点——平均场理论失效之处——我们为理解实际尺寸的重尾神经回路动力学提供了一个可处理的框架。
引用
@article{arxiv.2505.09816,
title = {Slow Transition to Low-Dimensional Chaos in Heavy-Tailed Recurrent Neural Networks},
author = {Yi Xie and Stefan Mihalas and Łukasz Kuśmierz},
journal= {arXiv preprint arXiv:2505.09816},
year = {2025}
}