拟稀疏性下回归变量选择的分离支撑尖峰与板坯先验
统计方法学
2019-10-01 v2 应用统计
摘要
回归系数向量的稀疏性通常是一种令人满意的性质，因为除其他好处外，稀疏性提高了可解释性。在实践中，许多真实的回归系数可能小到可忽略但非零，我们称之为拟稀疏性。 (Chipman et al., 2001) 中引入的尖峰与板坯先验可被调节以忽略非常小的回归系数，并因此提供预测精度与可解释性之间的权衡。然而，具有全支撑的尖峰与板坯先验导致不一致的贝叶斯因子，即任意两个模型的贝叶斯因子依概率有界。这对于贝叶斯假设检验显然是一种不良性质，因为我们希望增加的样本量能导致 favoring 真实模型的贝叶斯因子增大。 (Johnson and Rossell, 2012) 中的矩匹配先验可解决此问题，但由于其在精确值0之外具有全支撑，故不适合拟稀疏设定。作为补救，我们提出分离支撑尖峰与板坯先验，我们证明了其在拟稀疏设定下具有一致的贝叶斯因子，并通过实验展示出 favoring 真实模型的快速增长贝叶斯因子。在模拟和真实数据上的若干实验证实了我们所提方法在识别具有高效应量模型方面的有用性，同时相比硬阈值化能更好地控制假阳性。
引用
@article{arxiv.1908.09112,
title = {Disjunct Support Spike and Slab Priors for Variable Selection in Regression under Quasi-sparseness},
author = {Daniel Andrade and Kenji Fukumizu},
journal= {arXiv preprint arXiv:1908.09112},
year = {2019}
}