具有 ReLU 激活函数的神经网络积分表示
机器学习
2020-06-12 v3 机器学习
摘要
在本工作中，我们推导了具有 ReLU 激活函数的浅层神经网络积分表示的公式。我们假设外部权重在球面上的 Lebesgue 测度下具有有限 -范数。对于单变量目标函数，我们进一步给出所有可能表示的闭式公式。此外，在此情形下，我们的公式允许显式求解给定函数的最小 -范数神经网络表示。
引用
@article{arxiv.1910.02743,
title = {Neural network integral representations with the ReLU activation function},
author = {Armenak Petrosyan and Anton Dereventsov and Clayton Webster},
journal= {arXiv preprint arXiv:1910.02743},
year = {2020}
}