凸惩罚似然与非凸惩罚似然比较简论
统计方法学
2025-02-26 v2
摘要
本文比较了高维统计建模中凸惩罚似然与非凸惩罚似然方法，聚焦其优势与局限。凸惩罚（如LASSO）具有计算效率和强大的理论保证，但常在参数估计中引入偏差。非凸惩罚（如SCAD和MCP）可减少偏差并实现先验属性，但由于非凸性质，面临优化挑战。论文概述了偏差-方差权衡、计算复杂度和鲁棒性之间的关键差异，为方法选择提供了实用指导。它指出，选择取决于具体问题情境，在准确性之上进行权衡。
引用
@article{arxiv.2502.07655,
title = {A Short Note of Comparison between Convex and Non-convex Penalized Likelihood},
author = {Kasy Du},
journal= {arXiv preprint arXiv:2502.07655},
year = {2025}
}