重尾与方差异质性下超高维期望回归的稳健估计与收缩
统计理论
2019-10-02 v2 统计方法学
统计理论
摘要
受重尾现象和异质性影响的高维数据常见于各个科学领域，给经典统计方法带来了新的挑战。在本文中，我们结合非对称平方损失与 huber 型稳健技术，为超高维重尾异质数据发展了稳健期望回归。与经典的 huber 方法不同，我们在两侧引入两个不同的调节参数以顾及可能的非对称性，并允许它们发散以减小稳健近似带来的偏差。在正则化框架下，我们采用如 SCAD 或 MCP 惩罚这类一般折叠凹惩罚函数以追求偏差减小。我们研究了相应估计量的有限样本性质，并阐明了我们的方法如何在估计精度与重尾分布之间进行权衡。此外，注意到稳健非对称损失函数处处可微，基于我们的理论研究，在对非凸问题进行局部线性近似后，我们提出了一个高效的一阶优化算法。在各种分布下的模拟研究展示了我们的方法在系数估计、模型选择和异质性检测方面的令人满意的表现。
引用
@article{arxiv.1909.09302,
title = {Robust Estimation and Shrinkage in Ultrahigh Dimensional Expectile Regression with Heavy Tails and Variance Heterogeneity},
author = {Jun Zhao and Guan'ao Yan and Yi Zhang},
journal= {arXiv preprint arXiv:1909.09302},
year = {2019}
}