基于 $L_0$ 惩罚的超高维互动特征选择
统计方法学
2024-12-06 v1
摘要
在n次观察、p个变量且p≫n的超高维统计模型中,选择互动特征困难,因为互动特征的候选数量为p(p-1)/2,且所选模型需满足强层次(SH)限制。为此提出了一种名为SHL0的新方法以克服此困难。SHL0方法的目标函数由对数似然函数和L0惩罚组成。采用源自理论计算机科学的局部组合优化方法对目标函数进行优化。我们证明,SHL0的任意局部解都具有一致性并具备oracle性质,这意味着在实际中无需求解全局最优解。该方法还有三个额外优势:使用调节参数对主效应和互动特征进行惩罚;调节参数可推导闭式表达式;该思想可推广至任意超高维统计模型。与现有方法相比,所提方法在选择互动特征方面更具灵活性。研究表明,在模拟研究中,所提SHL0方法优于其他竞争方法。
引用
@article{arxiv.2412.03918,
title = {Selection of Ultrahigh-Dimensional Interactions Using $L_0$ Penalty},
author = {Tonglin Zhang},
journal= {arXiv preprint arXiv:2412.03918},
year = {2024}
}
备注
Preprint