中文

高斯预测模型中的族内 Kullback-Leibler 风险

统计理论 2012-12-04 v1 统计理论

摘要

我们考虑在高维高斯模型下基于 Kullback-Leibler 损失估计预测密度。讨论了族内预测误差(即所有高斯密度类 G\mathcal{G} 中估计量的最小风险)的决策理论性质。我们表明,在稀疏模型中,类 G\mathcal{G} 是极小极大次优的。针对 G\mathcal{G} 的各种子族,我们给出了族内预测误差的渐近尖锐上下界。在温和的正则性条件下,对于协方差结构由单个数据依赖参数 \Shat=\dhatI\Shat=\dhat \cdot I 表示的子族,Kullback-Leibler 风险具有可处理的分解形式,随后可对其进行最小化以产生最优平坦化的预测密度估计。最优预测风险可以用位置估计的相应均方误差显式表达,因此,基于点估计理论的结果可以确定收缩在预测机制中的作用。我们的结果表明,预测密度估计与点估计机制之间的一些决策理论平行关系可以通过基于二阶矩的二次损失集中性质来解释。

关键词

引用

@article{arxiv.1212.0325,
  title  = {On the within-family Kullback-Leibler risk in Gaussian Predictive models},
  author = {Gourab Mukherjee and Iain M. Johnstone},
  journal= {arXiv preprint arXiv:1212.0325},
  year   = {2012}
}

备注

This work is based on Chapter 3 of G.M.'s Ph.D. thesis (to be submitted) and was titled as `On efficient quadratic approximations of the predictive log-likelihood in a Gaussian sequence model' in previous preprints