中文

后验概率与归一化 L0 准则的集中性

统计理论 2021-10-07 v7 统计理论

摘要

我们研究贝叶斯与 L0L_0 模型选择的频率派性质,重点关注(潜在非线性的)高维回归。我们提出一种构造方法,用以研究后验概率与归一化 L0L_0 准则如何集中于(Kullback-Leibler)最优模型以及模型空间的其他子集。当此类集中发生时,我们也给出了选择正确模型、第一类与第二类错误的频率派概率的界。这些结果普遍成立,并有助于验证使用 posterior 概率与 L0L_0 准则来控制与模型选择及假设检验相关的频率派错误概率。在回归方面,我们帮助理解由先验或 L0L_0 惩罚所施加的稀疏性,以及诸如样本量、信噪比、维数与真实稀疏性等问题特征的影响。一个特别的发现是,人们可以使用比渐近最优更不稀疏的表述,却仍获得一致性,且通常还能显著改善有限样本表现。我们还证明了与错误设定均值或协方差结构相关的新结果,并给出了某些非局部先验比现有结果更紧的收敛速率。

关键词

引用

@article{arxiv.1806.04071,
  title  = {Concentration of posterior probabilities and normalized L0 criteria},
  author = {David Rossell},
  journal= {arXiv preprint arXiv:1806.04071},
  year   = {2021}
}