深度神经网络的有限时间李雅普诺夫指数
无序系统与神经网络
2025-10-01 v1 机器学习
机器学习
摘要
我们计算微小输入扰动如何影响深度神经网络的输出，探索深度网络与动力系统之间的类比，其中局部扰动的增长或衰减由有限时间李雅普诺夫指数刻画。我们表明最大指数在输入空间中形成几何结构，类似于动力系统中的相干结构。大正指数脊将输入空间划分为网络关联为不同类别的不同区域。这些脊可视化了深度网络在输入空间中构建的几何，揭示了其学习能力背后的基本机制。
关键词
引用
@article{arxiv.2306.12548,
title = {Finite-time Lyapunov exponents of deep neural networks},
author = {L. Storm and H. Linander and J. Bec and K. Gustavsson and B. Mehlig},
journal= {arXiv preprint arXiv:2306.12548},
year = {2025}
}
备注
6 pages, 4 figures