面向高维数据的深度截尾残差平方稳健惩罚最小二乘回归
机器学习
2023-09-06 v1 机器学习
统计方法学
摘要
大数据时代的数据挑战包括:(i)维度 常大于样本量 ;(ii)离群点或污染点常隐藏且更难检测。挑战(i)使多数常规方法不适用,从而吸引了统计学、计算机科学和生物医学界的巨大关注。众多惩罚回归方法作为分析高维数据的现代方法被提出。然而,对挑战(ii)的关注却不成比例地少。惩罚回归方法本应很好地完成任务并同时应对挑战(ii),但正如本文所揭示,其中多数会因单个离群点(或单个对抗性污染点)而崩溃。本文系统考察了文献中主流惩罚回归方法的稳健性,提供定量评估,并揭示多数方法会因单个离群点而崩溃。据此,提出并仔细研究了一种基于深度截尾残差平方和最小的新型稳健惩罚回归方法。基于模拟与真实数据的实验表明,在所考虑的情形中,新提出的方法在估计与预测精度上优于部分主流对比方法。
引用
@article{arxiv.2309.01666,
title = {Robust penalized least squares of depth trimmed residuals regression for high-dimensional data},
author = {Yijun Zuo},
journal= {arXiv preprint arXiv:2309.01666},
year = {2023}
}
备注
31 pages, 6 figures