变指数 Besov 空间上回归问题中深度学习的估计误差分析
机器学习
2021-04-01 v6 机器学习
摘要
深度学习已在包括图像与语音识别在内的多个领域取得显著成功。深度学习性能成功的原因之一是其高超的特征提取能力。本研究我们关注深度学习的适应性；为此，我们处理变指数 Besov 空间，其光滑性依赖于输入位置 而不同。换言之，估计难度在定义域内并不均匀。我们分析了变指数 Besov 空间的一般逼近误差以及深度学习的逼近与估计误差。我们注意到，当目标函数光滑性较差的区域较小且维度较大时，基于适应性的改进尤为显著。此外，就估计误差的收敛速率而言，展示了其相对于线性估计量的优越性。
引用
@article{arxiv.2009.11285,
title = {Estimation error analysis of deep learning on the regression problem on the variable exponent Besov space},
author = {Kazuma Tsuji and Taiji Suzuki},
journal= {arXiv preprint arXiv:2009.11285},
year = {2021}
}