分层先验下的 Oracle 后验收缩速率
统计理论
2021-02-12 v3 统计理论
摘要
我们提供了一个通用的贝叶斯理论框架,以在分层先验设计下推导后验收缩速率:第一步先验用于评估模型选择的不确定性,第二步先验量化对从第一步所选模型中信号强度的先验信念。特别地,我们在以下条件下建立了非渐近的 Oracle 后验收缩速率:(i) 统计实验的对数似然比的局部高斯性条件,(ii) 模型维度的局部熵条件,以及 (iii) 对每个模型在最佳逼近信号附近的第二步先验的充分质量条件。第一步先验可以通用地设计。后验分布具有高斯尾行为,因此由此产生的后验均值也满足 Oracle 不等式,自动作为频率主义意义下的自适应点估计量。这些 Oracle 速率允许模型误设定。局部高斯性条件作为实验的非渐近高斯量化的统一尝试,并且可以在 [GvdV07a] 及后续考虑的各种实验中轻松验证。一般结果应用于各种问题,包括:(i) 迹回归,(ii) 形状受限保序/凸回归,(iii) 高维部分线性回归,(iv) 稀疏因子模型中的协方差矩阵估计,(v) 非光滑多面体图像边界的检测,以及 (vi) 泊松点过程模型中的强度估计。这些新结果既可作为文献中实际先验提案的理论依据,也可作为复杂实验中(近)极小极大自适应估计量的通用构造方案的说明。
引用
@article{arxiv.1704.07513,
title = {Oracle posterior contraction rates under hierarchical priors},
author = {Qiyang Han},
journal= {arXiv preprint arXiv:1704.07513},
year = {2021}
}