整体ELM网络与其子网络关系的理论研究
机器学习
2016-11-01 v1 神经与进化计算
摘要
生物神经网络由众多具有不同功能的子网络和模块构成。对于人工神经网络，网络与其子网络之间的关系对于理论和算法研究同样重要且有用，即可以利用它来开发增量网络训练算法或并行网络训练算法。本文探讨了ELM神经网络与其子网络之间的关系。据我们所知，我们首次证明了一个定理，表明ELM神经网络可分解为子网络，且其最优解可由这些子网络的最优解递归构造。基于该定理，我们还提出了两种高效训练大型ELM神经网络的算法：一种是并行网络训练算法，另一种是增量网络训练算法。实验结果证明了该定理的实用性和所开发算法的有效性。
引用
@article{arxiv.1610.09608,
title = {A Theoretical Study of The Relationship Between Whole An ELM Network and Its Subnetworks},
author = {Enmei Tu and Guanghao Zhang and Lily Rachmawati and Eshan Rajabally and Guang-Bin Huang},
journal= {arXiv preprint arXiv:1610.09608},
year = {2016}
}
备注
3 figures