借鉴中位数之均值原理:勒卡姆方法
统计理论
2017-07-19 v2 统计理论
摘要
我们遵循勒卡姆(Le Cam)的构造,通过聚合正则化中位数之均值检验,获得了估计量的估计误差率。这些结果以指数级高概率成立——如同具有独立噪声的高斯框架——仅需对数据施加弱矩条件,且不假设噪声与设计矩阵之间独立。任何范数均可用于正则化。当范数具有某种稀疏诱导能力时,我们能够恢复稀疏收敛速率。该过程具有稳健性,因为大部分数据可能被污染,而这些异常值与我们要重建的预言机无关。我们的一般风险界具有如下阶数:\n\begin{equation*} \max\left(\mbox{独立同分布情形下的极小极大速率}, \frac{\text{异常值数量}}{\text{观测数量}}\right) \enspace. \end{equation*}\n特别地,异常值数量可高达(数据量)(极小极大速率)而不影响该速率。其他数据不必同分布,但应具有等价的 和 矩。例如,当噪声对某个 具有 阶矩,设计矩阵的条目应具有 阶矩,且数据集可被污染至多 个异常值时,在 中恢复 -稀疏向量的极小极大速率 可通过 LASSO 的中位数之均值版本以指数级高概率达到。
引用
@article{arxiv.1701.01961,
title = {Learning from MOM's principles: Le Cam's approach},
author = {Lecué Guillaume and Lerasle Matthieu},
journal= {arXiv preprint arXiv:1701.01961},
year = {2017}
}