随机函数链接型神经网络的特性与潜在应用
机器学习
2023-04-04 v1 人工智能
摘要
随机函数链接型神经网络（RFLNNs），例如极限学习机（ELM）和宽度学习系统（BLS），避免了耗时的训练过程，为深度结构中的学习提供了替代方法。RFLNNs在各种分类和回归任务中取得了优异性能，然而先前研究忽视了这些网络的特性与解释。本文从频域视角对RFLNNs的特性提供了一些见解，并发现了这些网络中频率原则的存在，即它们在训练过程中优先快速捕获低频成分，然后拟合高频成分。这些发现有助于理解RFLNNs并拓展其应用。在频率原则指导下，我们提出了一种生成具有更优性能的BLS网络的方法，并针对Jacobi迭代方法与BLS网络中呈现的不同频率原则，设计了一种求解泊松（Poisson）方程的高效算法。
引用
@article{arxiv.2304.00957,
title = {Properties and Potential Applications of Random Functional-Linked Types of Neural Networks},
author = {Guang-Yong Chen and Yong-Hang Yu and Min Gan and C. L. Philip Chen and Wenzhong Guo},
journal= {arXiv preprint arXiv:2304.00957},
year = {2023}
}
备注
9 pages,14 figures