广义变分推断的频率主义一致性

本文研究通过广义变分推断（GVI）构造的后验分布的频率主义一致性性质。给出了若干用于证明一致性的通用且新颖的策略，这些策略依赖于 $\Gamma$-收敛理论。具体而言，本文表明在最小正则性条件下，随着观测数量趋于无穷，GVI 后验序列是一致的，并坍缩到总体最优参数值处的点质量。结果扩展到潜变量情形而无需额外假设，并且在错误设定下也成立。最后，本文解释了如何将结果应用于具有特别流行变分族的一批 GVI 后验。例如，对使用平均场正态变分族、正态混合、高斯过程变分族以及索引正态（混合）分布的神经网络的 GVI 方法建立了一致性。