关于深度学习中子水平集连通性的一点注记
机器学习
2021-01-22 v1 机器学习
摘要
研究表明，对于深度神经网络，单个宽度为 的宽层（ 为训练样本数）足以证明训练损失函数子水平集的连通性。在两层设定下，即便仅少一个神经元（即宽度 ）也可能导致子水平集不连通，同一性质未必成立。
引用
@article{arxiv.2101.08576,
title = {A Note on Connectivity of Sublevel Sets in Deep Learning},
author = {Quynh Nguyen},
journal= {arXiv preprint arXiv:2101.08576},
year = {2021}
}