具有分段多项式激活函数的深度神经网络对光滑函数及其导数的同时逼近
数值分析
2022-12-06 v2 数值分析
统计理论
机器学习
统计理论
摘要
本文研究了具有分段多项式激活函数的深度神经网络的逼近性质。我们推导出深度神经网络在 Hölder 范数下以给定逼近误差逼近任意 Hölder 光滑函数所需的深度、宽度和稀疏度，并使得该神经网络的所有权重以 为界。后一特性对于控制许多统计和机器学习应用中的泛化误差至关重要。
引用
@article{arxiv.2206.09527,
title = {Simultaneous approximation of a smooth function and its derivatives by deep neural networks with piecewise-polynomial activations},
author = {Denis Belomestny and Alexey Naumov and Nikita Puchkin and Sergey Samsonov},
journal= {arXiv preprint arXiv:2206.09527},
year = {2022}
}
备注
28 pages