用于神经 MCMC 的深度对合生成模型

我们引入深度对合生成模型，一种用于深度生成建模的新架构，并用它们定义对合神经 MCMC（Involutive Neural MCMC），一种快速神经 MCMC 的新方法。对合生成模型将概率核 $G(\phi \mapsto \phi')$ 表示为在包含辅助变量 $\pi$ 的扩大状态空间上的对合（即自逆）确定性函数 $f(\phi, \pi)$。我们展示了如何使这些模型保持体积守恒，以及如何使用深度体积守恒对合生成模型基于具有易于计算的接受率的辅助变量方案进行有效的 Metropolis-Hastings 更新。我们证明深度对合生成模型及其体积守恒特例是概率核的通用逼近器。该结果意味着在足够的网络容量和训练时间下，它们可用于学习任意复杂的 MCMC 更新。我们定义了给定模拟数据时训练参数的损失函数和优化算法。我们还提供了初步实验，表明对合神经 MCMC 能够高效探索对混合蒙特卡洛（Hybrid Monte Carlo）而言难处理的多模态分布，并且比最近引入的神经 MCMC 技术 A-NICE-MC 收敛更快。