路径引导的基于粒子的抽样方法
机器学习
2024-12-05 v1 人工智能
机器学习
摘要
基于从无分区目标（后验）分布抽样的粒子方法，如 Stein 变分梯度下降（SVGD），已引起广泛关注。我们提出一种基于新型 Log 加权收缩（LwS）密度路径将初始分布与目标分布链接起来的路径引导粒子抽样（PGPS）方法。我们提出利用神经网络学习该密度路径所激发的 Fokker-Planck 方程动力学中的向量场。粒子从初始分布启动，沿由向量场定义的常微分方程演化。这些粒子的分布沿从初始分布到目标分布的密度路径被引导。所提出的 LwS 密度路径允许在标准方法失败的情况下高效搜索目标分布的模态。我们对 PGPS 生成样本分布与目标分布之间的 Wasserstein 距离进行理论分析，考虑近似误差及离散化误差。实际情况下，所提出的 PGPS-LwS 方法在合成数据及真实世界贝叶斯学习任务上的实验结果表明，相较于 SVGD、Langevin 动力学等基线方法，具有更高的贝叶斯推断准确性及更好的校准能力。
引用
@article{arxiv.2412.03312,
title = {Path-Guided Particle-based Sampling},
author = {Mingzhou Fan and Ruida Zhou and Chao Tian and Xiaoning Qian},
journal= {arXiv preprint arXiv:2412.03312},
year = {2024}
}