ReLU神经网络函数的局部与全局拓扑复杂度度量
代数拓扑
2024-04-03 v2 计算几何
机器学习
几何拓扑
摘要
我们应用 Grunert-Kuhnel-Rote 提出的广义分段线性（PL）Morse理论，定义并研究全连接前馈ReLU神经网络函数 F: R^n -> R 的局部与全局拓扑复杂度新概念。在此过程中，我们展示如何为每一个这样的 F 构造一个标准多面体复形 K(F) 以及域到 K(F) 的一个形变收缩，从而得到便于计算的紧致模型。我们还给出一种构造，表明局部复杂度可以任意高。
引用
@article{arxiv.2204.06062,
title = {Local and global topological complexity measures OF ReLU neural network functions},
author = {J. Elisenda Grigsby and Kathryn Lindsey and Marissa Masden},
journal= {arXiv preprint arXiv:2204.06062},
year = {2024}
}
备注
40 pages, 8 figures; Sections 5 and 6 from v1 removed from v2. We plan to use constructions in those sections for a follow-up paper with a more computational focus