面向大数据与高维 LASSO 回归的高效数据缩减策略
统计方法学
2024-01-23 v1
摘要
Wang 等人 (2019) 提出的 IBOSS 方法选取 n 个数据点中信息量最大的子集。它假设使用普通最小二乘法，并要求变量数 p 不大。然而，在许多实际问题中，p 非常大且使用基于惩罚的模型拟合方法（如 LASSO）。我们研究 n 和 p 均很大的大数据问题。在第一部分，我们专注于数据点的缩减。我们发展了理论结果，表明 IBOSS 类型的方法可适用于基于惩罚的回归（如 LASSO）。在第二部分，我们考虑 p 极大的情形。我们提出了一种两步方法，首先减少变量数，然后减少数据点数。我们开发了两种独立的算法，并通过广泛的模拟研究评估了其性能。与包括著名的分而治之方法在内的现有方法相比，所提出的方法在估计精度、预测精度和计算时间方面具有优势。
引用
@article{arxiv.2401.11070,
title = {Efficient Data Reduction Strategies for Big Data and High-Dimensional LASSO Regressions},
author = {Xin Wang and Min Yang and William Li},
journal= {arXiv preprint arXiv:2401.11070},
year = {2024}
}