迈向理解复反应网络的理论优势
机器学习
2022-07-04 v2 人工智能
摘要
复值神经网络近年来受到越来越多的关注,但相较于实值网络,其优势仍属开放问题。本工作朝此方向迈出一步,引入具有全连接前馈架构的\emph{复反应网络}。我们证明了复反应网络的通用逼近性质,并表明一类径向函数可由复反应网络以多项式数量的参数逼近,而实值网络需至少指数级参数才能达到相同逼近水平。对于经验风险最小化,我们的理论结果表明复反应网络的临界点集是实值网络临界点集的真子集,这或许能为复反应网络更易找到最优解提供一些见解。
引用
@article{arxiv.2108.06711,
title = {Towards Understanding Theoretical Advantages of Complex-Reaction Networks},
author = {Shao-Qun Zhang and Wei Gao and Zhi-Hua Zhou},
journal= {arXiv preprint arXiv:2108.06711},
year = {2022}
}