贝叶斯更新：变分形式与梯度流

贝叶斯更新可被视为一个变分问题，其特点是将后验分布刻画为某个泛函的极小值点。这种变分观点由来已久，并且是多种主流后验近似方法的核心。然而，它的一些推论似乎尚未得到充分探索。我们聚焦于以下推论：将后验定义为泛函的极小值点，为通过沿该泛函最速下降方向移动来逼近后验提供了一条自然路径。这一思想通过梯度流理论得以精确化，从而能够将新的工具引入贝叶斯模型和算法的研究中。由于后验可以被刻画为不同泛函的极小值点，因此可以考虑多种变分形式。我们研究了其中三种及其对应的三个梯度流。我们证明，在所有情况下，流向收敛到后验的速率都可以由待最小化泛函的测地凸性所界定。每个梯度流自然地暗示了一种以后验为不变分布的非线性扩散过程。这些扩散过程可以被离散化，用以构建马尔可夫链蒙特卡洛（MCMC）算法的提议分布。通过构造，这些扩散过程保证满足某种最优性条件，且收敛速率由泛函的凸性给出。我们利用这一观察，为黎曼流形 MCMC 方法中度量指标的选择提出了一个准则。