用于 MCMC 提议分布优化的半经验目标函数

当前用于训练神经 MCMC 提议分布的目标函数隐式依赖于架构限制以产生合理的优化结果，这阻碍了高表达力神经 MCMC 提议架构的发展。本工作中，我们引入并演示了一种半经验过程，用于确定适用于优化 MCMC 方法中任意参数化提议分布的近似目标函数。我们提出的 Ab Initio 目标函数由若干函数的加权组合构成，这些函数遵循关于其全局最优值与变换不变性的约束，我们认为这些约束应由用于提议优化的 MCMC 效率的一般度量所保持。实验结果表明，与现有神经 MCMC 优化目标函数相比，Ab Initio 目标函数保持了更优的性能与更可取的优化行为。我们发现 Ab Initio 目标函数具有足够的鲁棒性，能够自信地优化由深度生成网络参数化的神经提议分布，其范围超越了传统 MCMC 方案。