无反向传播的 Metropolis-Adjusted Langevin 算法

近期关于无反向传播学习的研究表明，可以使用前向模式自动微分（AD）对可微分模型进行优化。前向模式 AD 要求为模型的每次前向传播采样一个切向量。其结果是沿切向量方向的方向导数模型评估。在本文中，我们说明了如何将该切向量的采样纳入 Metropolis-Adjusted Langevin 算法（MALA）的提议机制中。因此，我们是第一个提出无反向传播的基于梯度的马尔可夫链蒙特卡洛（MCMC）算法。我们还将其扩展为一种新颖的无反向传播、位置特定的预条件前向模式 MALA，该方法利用 Hessian 信息。总体而言，我们提出了四种新算法：Forward MALA；Line Forward MALA；Pre-conditioned Forward MALA，以及 Pre-conditioned Line Forward MALA。我们强调了前向模式采样器降低的计算成本，并表明前向模式与原版 MALA 相比具有竞争力，在某些概率模型下甚至优于后者。我们包含了在多种概率模型上的贝叶斯推断结果，包括层次分布和贝叶斯神经网络。