高维估计方程下惩罚经验似然的新视角
统计理论
2018-12-21 v2 统计方法学
统计理论
摘要
带有经验似然（EL）的统计方法具有吸引力且有效，特别是与估计方程结合使用时，可以通过其自适应且灵活地纳入有用的数据信息。文献中也已知，EL 方法在处理具有高维模型参数和估计方程的问题时会遇到困难。为了克服这些挑战，我们从一个旨在估计高维稀疏模型参数的新视角出发，对高维 EL 进行了仔细研究。我们表明，这一新视角为放宽对模型参数维度的严格限制提供了机会。受此新视角启发，我们通过分别应用两个惩罚函数来正则化 EL 优化中的模型参数和相关的 Lagrange 乘子，从而提出了一种新的惩罚 EL。通过对 Lagrange 乘子施加惩罚以鼓励其稀疏性，我们表明可以在不损害所得估计量的有效性和一致性的情况下，有效实现估计方程数量的急剧降维。最吸引人的是，估计方程维度的这种降低实际上等价于在这些高维估计方程之间进行选择，从而为高维稀疏模型参数提供了一种高度简约且有效的工具。允许模型参数和估计方程的维度随样本量呈指数增长，我们的理论证明了来自新惩罚 EL 的估计量是稀疏的，且其非零分量具有渐近正态分布。数值模拟和实际数据分析表明，所提出的惩罚 EL 具有良好的应用前景。
引用
@article{arxiv.1704.00566,
title = {A new scope of penalized empirical likelihood with high-dimensional estimating equations},
author = {Jinyuan Chang and Cheng Yong Tang and Tong Tong Wu},
journal= {arXiv preprint arXiv:1704.00566},
year = {2018}
}