中文

缺失数据的惩罚线性回归的线性收缩凸化

统计方法学 2025-04-21 v2

摘要

近年来数据分析中常见的挑战之一是缺失值。在经过数十年广泛探索的惩罚性线性回归框架中,缺失值会引入偏差并导致协变量协方差矩阵非正定,从而使最小二乘损失函数非凸。本文提出一种名为线性收缩正定(LPD)修改的新型方法以解决此问题。LPD修改旨在修改协变量的协方差矩阵以确保其一致性和正定性。通过采用新的协方差估计器,我们能够将惩罚性回归问题转化为凸问题,从而便于识别稀疏解。值得注意的是,LPD修改在计算上是高效的,且可解析表达。在存在缺失值的情形下,我们建立了选择一致性,并证明了带LPD的1\ell_1-惩罚回归估计器的收敛率,显示2\ell_2-误差收敛率为logp\log p的平方根除以nn,乘以(s0)3/2(s_0)^{3/2}因子(s0s_0:非零系数的数量)。为进一步评估我们方法的有效性,我们分析来自荷根肿瘤药物灵敏度在癌症中基因组(GDSC)数据集的真实数据。该数据集提供了细胞系药物灵敏度及其蛋白表达的不完整测量值。我们对每个灵敏度值分别作为响应变量,蛋白表达作为解释变量,构建一系列惩罚性线性回归模型。

关键词

引用

@article{arxiv.2412.19963,
  title  = {Linear Shrinkage Convexification of Penalized Linear Regression With Missing Data},
  author = {Seongoh Park and Seongjin Lee and Nguyen Thi Hai Yen and Nguyen Phuoc Long and Johan Lim},
  journal= {arXiv preprint arXiv:2412.19963},
  year   = {2025}
}