中文

通过新的拉普拉斯近似界改进伯恩斯坦-冯·米塞斯定理的维数依赖性

统计理论 2024-11-05 v3 统计理论

摘要

伯恩斯坦-冯·米塞斯定理(BvM)给出了基于 nn 个独立样本的参数 θΘRd\theta\in\Theta\subseteq\mathbb R^d 的后验分布渐近正态的条件。在高维情形下,一个关键问题是确定 BvM 成立所需的 ddnn 的增长速率。我们证明,除一个依赖于模型的常数外,nd2n\gg d^2 足以使 BvM 在以下两种设定中成立:任意广义线性模型(包含指数族作为特例)以及多项数据(其中感兴趣的参数是一个在 d+1d+1 个状态上的未知概率质量函数)。我们的结果改进了此前已知最紧的后验渐近正态条件 nd3n\gg d^3。我们对 BvM 的表述是非渐近的,采取显式高概率界的形式。为证明 BvM,我们推导了 ΘRd\Theta\subseteq\mathbb R^d 上测度 πenf\pi\propto e^{-nf} 与其拉普拉斯近似之间总变差距离的一个新的简单显式界。

关键词

引用

@article{arxiv.2308.06899,
  title  = {Improved dimension dependence in the Bernstein von Mises Theorem via a new Laplace approximation bound},
  author = {Anya Katsevich},
  journal= {arXiv preprint arXiv:2308.06899},
  year   = {2024}
}

备注

Changes from v2: BvM on logistic regression extended to arbitrary GLMs