基于 $\ell_1$ 惩罚 Huber $M$ 估计的稀疏线性模型异常值稳健估计
统计理论
2019-11-20 v3 机器学习
统计理论
摘要
我们研究在具有高斯设计与加性噪声的线性模型中估计 维 稀疏向量的问题。在标签被至多 个对抗性异常值污染的情形下,我们证明基于 个样本的 惩罚 Huber 的 估计达到最优收敛速率 (至多相差一个对数因子)。对于更一般的设计矩阵,我们的结果凸显了两个性质的重要性:转移原理与不相干性质。这些性质在适当常数下被证明可给出对抗污染下稳健估计的最优速率(至多相差对数因子)。
引用
@article{arxiv.1904.06288,
title = {Outlier-robust estimation of a sparse linear model using $\ell_1$-penalized Huber's $M$-estimator},
author = {Arnak S. Dalalyan and Philip Thompson},
journal= {arXiv preprint arXiv:1904.06288},
year = {2019}
}
备注
This is a follow up paper of arXiv:1805.08020