中文

数据增强 Gibbs 抽样器的混合时间分析:面向高维 probit 回归

统计计算 2025-05-21 v1 统计方法学 机器学习

摘要

我们研究了流行数据增强抽样器用于贝叶斯 probit 回归的收敛性质。基于最近在对数凸目标上进行 Gibbs 抽样的研究结果,我们提供了简单且显式的非渐近混合时间界限(以 KL 散度衡量)。这些界限显式依赖于设计矩阵和先验精度参数,同时对响应向量保持一致。我们针对统计学上感兴趣的不同场景进行了特化分析,即当数据点数 nn 与参数数 pp 同时趋于大时:特别我们识别出在 n,pn,p\to\infty 时混合时间保持有界的情形,以及不会保持有界的情形。结果表明这些界限在响应向量的最坏情况下均为紧致的(tight),并为选择导致快速混合的先验分布提供了指导。基于耦合技术的经验分析表明,这些界限在预测实际观察行为方面具有有效性。

关键词

引用

@article{arxiv.2505.14343,
  title  = {Mixing times of data-augmentation Gibbs samplers for high-dimensional probit regression},
  author = {Filippo Ascolani and Giacomo Zanella},
  journal= {arXiv preprint arXiv:2505.14343},
  year   = {2025}
}