基于随机初始化神经网络的函数逼近及其在近似模型参考自适应控制中的应用
最优化与控制
2023-04-06 v2 机器学习
摘要
神经网络逼近理论的经典结果表明，在激活函数的温和假设下，任意连续函数可由单隐藏层网络逼近。然而，经典理论并未给出生成达到期望精度的网络参数的构造性方法。近期结果表明，对于专用激活函数（如ReLU及某些解析函数类），可通过随机初始化激活的线性组合实现高精度。这些近期工作利用了依赖于所用特定激活函数的目标函数的专用积分表示。本文定义了磨光积分表示，为使用目前尚无直接积分表示的激活函数形成目标函数的积分表示提供了手段。这一新构造为多种广泛使用的激活函数的随机初始化网络提供了逼近保证。
引用
@article{arxiv.2303.16251,
title = {Function Approximation with Randomly Initialized Neural Networks for Approximate Model Reference Adaptive Control},
author = {Tyler Lekang and Andrew Lamperski},
journal= {arXiv preprint arXiv:2303.16251},
year = {2023}
}