复值神经网络的定量逼近结果
泛函分析
2021-12-06 v3 机器学习
摘要
直到最近，神经网络在机器学习中的应用几乎完全依赖实值网络。然而，近期观察到复值神经网络（CVNNs）在输入自然为复值的应用（如 MRI 指纹识别）中展现出更优性能。尽管实值网络的数学理论目前已达到某种成熟度，复值网络远非如此。本文通过分析复值神经网络的表达能力，为用采用 modReLU 激活函数（定义为 ，其为实践中最流行的复激活函数之一）的复值神经网络逼近 紧子集上的 函数，提供显式定量误差界。我们证明所导出的逼近速率在具有中度增长权重的 modReLU 网络类中是最优的（至多相差对数因子）。
引用
@article{arxiv.2102.13092,
title = {Quantitative approximation results for complex-valued neural networks},
author = {A. Caragea and D. G. Lee and J. Maly and G. Pfander and F. Voigtlaender},
journal= {arXiv preprint arXiv:2102.13092},
year = {2021}
}