从尾部普遍性到巴森纳-冯-米斯：半隐式变分推断的统一统计理论

半隐式变分推断（SIVI）构建形如 $q(\theta) = \int k(\theta | z) r(dz)$ 的近似后验，其中条件核被参数化而混合基固定且可计算。本文为此类族群开发了统一的“近似-优化-统计”理论。在近似方面，我们证明在紧致 L1 普遍性和温和的尾部优势条件下，半隐式族群在 L1 中稠密，可实现任意小的前向 KL 误差。我们还识别了两个尖锐的全局近似障碍：（i）一种 Orlicz 尾部不匹配条件导致严格正的前向-KL 间隙，（ii）结构限制，如非自回归高斯核，导致条件分布中的“分支坍缩”。对于每个障碍，我们给出最小的结构修改以恢复可近似性。在优化方面，我们建立了有限样本的 oracle 不等式，证明经验 SIVI 目标 L(K,n) 随着 n 和 K 无穷大时收敛于其 population 极限。这些结果给出经验最大化器的一致性、对有限K代理偏差的定量控制以及变分后验的稳定性。将近似和优化分析结合起来，首次为 SIVI 提供了完整的统计理论：我们精确刻画了 SIVI 何时可以恢复目标分布、何时不能以及架构和算法选择如何决定可达的渐进行为。