随机向量函数链接网络的新学习范式：RVFL+
机器学习
2019-11-01 v4 机器学习
神经与进化计算
摘要
在学校中，教师在各种课堂教学模式中扮演着重要角色。与此类人类学习活动类似，使用特权信息学习（LUPI）范式在训练阶段提供由教师生成的额外信息来“教导”学习模型。因此，这种新颖的学习范式是一种典型的师生交互机制。本文首次提出了一种基于 LUPI 范式的随机向量函数链接网络，称为 RVFL+。新推导的 RVFL+ 并非简单结合两种现有方法，而是填补了经典随机神经网络与新兴 LUPI 范式之间的空白，为训练 RVFL 网络提供了一种替代途径。此外，所提出的 RVFL+ 可与核技巧结合用于高度复杂的非线性特征学习，称为 KRVFL+。进一步地，我们研究了所提出 RVFL+ 的统计特性，并基于 Rademacher 复杂度给出了一个紧致且高质量的泛化误差界。在 14 个真实数据集上的竞争性实验结果展示了新型 RVFL+ 和 KRVFL+ 的极大有效性与高效性，其泛化性能优于 state-of-the-art 方法。
引用
@article{arxiv.1708.08282,
title = {A New Learning Paradigm for Random Vector Functional-Link Network: RVFL+},
author = {Peng-Bo Zhang and Zhi-Xin Yang},
journal= {arXiv preprint arXiv:1708.08282},
year = {2019}
}
备注
We have updated the previous work