变分退火重要性采样的代理似然

变分推断是一种强大的近似贝叶斯推断范式，具有若干吸引人的特性，包括对模型学习和数据子采样的支持。相比之下，如哈密顿蒙特卡洛之类的 MCMC 方法虽不具备这些特性，但仍具吸引力，因为与参数化方法相反，MCMC 是渐近无偏的。出于这些原因，研究者一直寻求结合两类算法的优势，近期的方法已更接近在实践中实现这一愿景。然而，在这些混合方法中支持数据子采样可能是一项挑战，我们通过引入一个可与其他变分参数联合学习的代理似然来弥补这一不足。我们从理论上论证，所得算法允许用户对推断保真度与计算成本之间做出直观的权衡。在广泛的实证比较中，我们表明我们的方法在实践中表现良好，并且非常适用于概率编程框架中的黑盒推断。