一种面向稀疏高维线性回归的自适应最短解引导的抽取方法
机器学习
2022-11-29 v1 统计计算
摘要
高维线性回归模型是处理高维数据最流行的统计模型，但获得稀疏的回归系数集是一项极具挑战性的任务。本文中，我们提出了一种简单的启发式算法来构建稀疏高维线性回归模型，该算法改编自最短解引导的抽取算法，并被称为 ASSD。该算法在递归抽取的线性方程的最小二乘解的引导下构建回归系数的支撑集，并应用早停准则和第二阶段阈值处理程序来优化该支撑集。我们大量的数值结果表明，ASSD 在解的准确性和鲁棒性方面优于 LASSO、向量近似消息传递以及其他两种代表性的贪婪算法。ASSD 尤其适用于实际应用中遇到的高度相关测量矩阵的线性回归问题。
引用
@article{arxiv.2211.15057,
title = {An adaptive shortest-solution guided decimation approach to sparse high-dimensional linear regression},
author = {Xue Yu and Yifan Sun and Haijun Zhou},
journal= {arXiv preprint arXiv:2211.15057},
year = {2022}
}
备注
13 pages, 6 figures