中文

对异常值鲁棒的平方根LASSO:基于MOM方法的同步推断

统计理论 2021-03-19 v1 统计理论

摘要

我们考虑噪声方差未知的最小二乘回归问题,其中允许观测数据点被异常值破坏。基于Lecue与Lerasle在Ann.Statist.48(2):906-931(April 2020)中针对已知噪声方差所引入的中位数之均值(MOM)方法,我们提出一种通用的MOM方法,用于回归函数与噪声方差的同步推断,仅需噪声水平的上界。有趣的是,由于底层凸-凹优化问题固有的正则性问题的存在,这一推广需要谨慎处理。在回归函数属于凸类的一般情形下,我们表明我们的同步估计器以高概率达到与噪声水平已知时相同的收敛速率与类似的风险界,以及对估计噪声标准差的收敛速率。在高维稀疏线性设定下,我们的估计器给出了平方根LASSO的鲁棒类比。在弱矩条件下,它以高概率联合达到估计系数向量p\ell_p范数的极小极大速率s1/p(1/n)log(p/s)s^{1/p} \sqrt{(1/n) \log(p/s)},以及噪声标准差估计的速率(s/n)log(p/s)\sqrt{(s/n) \log(p/s)}。此处nn表示样本量,pp表示维度,ss表示稀疏度水平。我们最后提出了对未知稀疏度水平ss情形的推广,提供了联合自适应估计器(β~,σ~,s~)(\widetilde \beta, \widetilde \sigma, \widetilde s)。它同时估计系数向量、噪声水平与稀疏度水平,并对这三个分量均给出了以高概率成立的有证明界。

关键词

引用

@article{arxiv.2103.10420,
  title  = {Robust-to-outliers square-root LASSO, simultaneous inference with a MOM approach},
  author = {G. Finocchio and A. Derumigny and K. Proksch},
  journal= {arXiv preprint arXiv:2103.10420},
  year   = {2021}
}

备注

70 pages