后验概率与归一化 L0 准则的集中性
统计理论
2021-10-07 v7 统计理论
摘要
我们研究贝叶斯与 模型选择的频率派性质,重点关注(潜在非线性的)高维回归。我们提出一种构造方法,用以研究后验概率与归一化 准则如何集中于(Kullback-Leibler)最优模型以及模型空间的其他子集。当此类集中发生时,我们也给出了选择正确模型、第一类与第二类错误的频率派概率的界。这些结果普遍成立,并有助于验证使用 posterior 概率与 准则来控制与模型选择及假设检验相关的频率派错误概率。在回归方面,我们帮助理解由先验或 惩罚所施加的稀疏性,以及诸如样本量、信噪比、维数与真实稀疏性等问题特征的影响。一个特别的发现是,人们可以使用比渐近最优更不稀疏的表述,却仍获得一致性,且通常还能显著改善有限样本表现。我们还证明了与错误设定均值或协方差结构相关的新结果,并给出了某些非局部先验比现有结果更紧的收敛速率。
引用
@article{arxiv.1806.04071,
title = {Concentration of posterior probabilities and normalized L0 criteria},
author = {David Rossell},
journal= {arXiv preprint arXiv:1806.04071},
year = {2021}
}