Wasserstein复杂度惩罚先验:一类新的惩罚复杂度先验
统计方法学
2025-05-06 v2
摘要
惩罚复杂度(PC)先验提供了一个原则性框架,通过惩罚一个“简单”基础模型与一个更复杂模型之间的Kullback-Leibler散度(KLD)来降低模型复杂度。然而,在许多情况下,由于KLD是无穷大,通过惩罚KLD来构建先验变得不可能,而替代原则常常在KLD方面失去可解释性。我们提出了一类新的先验,即Wasserstein复杂度惩罚(WCP)先验,它在PC先验框架中用Wasserstein距离替代了KLD。WCP先验避免了模型距离无穷大的问题,并通过遵循调整后的原则保留了可解释性。此外,我们引入了基测度的概念,消除了基础模型对参数的依赖性,并将该框架扩展到针对多个参数的联合WCP先验。这些先验可以解析构建,我们在R编程语言中提供了分析和数值实现。我们展示了它们在先前PC先验应用以及新的多变量设置中的用途。
引用
@article{arxiv.2312.04481,
title = {Wasserstein complexity penalization priors: a new class of penalizing complexity priors},
author = {David Bolin and Alexandre B. Simas and Zhen Xiong},
journal= {arXiv preprint arXiv:2312.04481},
year = {2025}
}