面向多目标回归的离群鲁棒极限学习机
摘要
基于极限学习机(ELM)可用于训练单隐层前馈神经网络(SLFN)的算法在过去几年中日益流行。它们已成功应用于广泛的分类与回归任务。最常用的方法基于最小化误差的 范数,这不适合处理离群点,尤其在回归任务中。离群鲁棒 ELM(OR-ELM)中提出了使用 范数,其定义为单维输出。在本文中,我们将 OR-ELM 推广以处理多目标回归问题,使用误差 范数和弹性网络(Elastic Net)理论,这可使网络更稀疏,从而得出我们的方法——广义离群鲁棒 ELM(GOR-ELM)。我们使用交替方向乘子法(ADMM)求解所得优化问题。还提出了 GOR-ELM 的增量版本。我们选取了 15 个公开真实世界多目标回归数据集来测试我们的方法。实验表明,在含离群点污染的数据下,它们统计上优于其他基于 ELM 的技术,而在其他情况下与之相当。
引用
@article{arxiv.1905.09368,
title = {Outlier Robust Extreme Learning Machine for Multi-Target Regression},
author = {Bruno Légora Souza da Silva and Fernando Kentaro Inaba and Evandro Ottoni Teatini Salles and Patrick Marques Ciarelli},
journal= {arXiv preprint arXiv:1905.09368},
year = {2019}
}
备注
Submitted to Expert Systems With Applications in April 16, 2019. Currently under review. Highlights: Handles Multi-Target Regression Problems, Generalized Outlier Robust Extreme Learning Machine, Shows robustness when training data is contaminated with outliers, Training time is similar to Generalized and Outlier-Robust Extreme Learning Machines, An incremental version of the method is presented