关于窄深神经网络的决策区域
机器学习
2021-03-04 v4 人工智能
神经与进化计算
机器学习
摘要
我们证明，对于宽度小于或等于输入维度的神经网络函数，其决策区域的所有连通分量都是无界的。该结果对连续且严格单调的激活函数以及 ReLU 激活函数均成立。这补充了 [Hanin 2017 Approximating] 关于此类窄神经网络的逼近能力以及 [Nguyen 2018 Neural] 关于决策区域连通性的近期结果。我们的结果通过数值实验进行了说明。
引用
@article{arxiv.1807.01194,
title = {On decision regions of narrow deep neural networks},
author = {Hans-Peter Beise and Steve Dias Da Cruz and Udo Schröder},
journal= {arXiv preprint arXiv:1807.01194},
year = {2021}
}
备注
This paper is accepted for publication in Neural Networks (Elsevier Journal)