投影先验的连续间隙收缩松弛
统计方法学
2026-05-15 v1
摘要
投影先验最初用于容纳参数约束,但近期因其能够为稀疏向量、有向无环图或运输计划等低维参数集分配概率质量而重新流行。当作为随机变量的变换时使用投影尤其有用,因为其收缩特性不仅保持概率浓度,还常常保持梯度基于后验计算的可微性。另一方面,除非投影可以通过某种非迭代算法获得,否则后验计算可能昂贵,因为这需要在每个马尔可夫链蒙特卡洛迭代中嵌套一个迭代优化例程。本文灵感来源于连续收缩模型作为离散尖峰-棕榈先验替代方案,我们提出了投影先验的连续松弛。关键思想是量化原始投影损失与双目标之间的duality gap,并施加一个收缩该间隙向零的概率先验。 resulting gap-shrinkage prior具有可解析形式,不需要在每个后验更新中运行优化子程序,并且将概率质量置于准确投影附近。我们展示了gap-shrinkage先验的有用特性,包括与全局-局部收缩先验的联系、对广义投影函数的广泛适用性以及在后验收缩中的竞争性能。我们将gap-shrinkage模型应用于营销数据分析,以识别影响多变量食品购物决策的重要预测因子效应。
引用
@article{arxiv.2605.14936,
title = {Relaxation of Projected Prior with Continuous Gap Shrinkage},
author = {Leo L Duan and Sunghyun Cho and Mingzhang Yin},
journal= {arXiv preprint arXiv:2605.14936},
year = {2026}
}