一种基于分数的采样方法：利用分数的蒙特卡洛估计与目标密度的预言机访问
机器学习
2022-12-08 v1 机器学习
统计方法学
摘要
基于分数的采样方法作为一种生成式算法，在给定初始样本池的情况下从目标密度生成新样本已显示出很大成功。在这项工作中，我们考虑若我们没有来自目标密度的初始样本，而是拥有对其对数似然的 和 阶预言机访问。此类问题可能出现在贝叶斯后验采样或非凸函数的近似最小化中。仅利用这一知识，我们提出一种蒙特卡洛方法，将分数经验性地估计为某一随机变量的特定期望。利用该估计量，我们随后可运行反向流 SDE 的离散版本以从目标密度生成样本。该方法的优点在于不依赖于来自目标密度的初始样本池，且不依赖神经网络或其他黑箱模型来估计分数。
引用
@article{arxiv.2212.03325,
title = {Proposal of a Score Based Approach to Sampling Using Monte Carlo Estimation of Score and Oracle Access to Target Density},
author = {Curtis McDonald and Andrew Barron},
journal= {arXiv preprint arXiv:2212.03325},
year = {2022}
}
备注
Appeared in NeurIPS 2022 workshop on Score Based Methods