通过梯度的非均匀子采样提升随机梯度 MCMC 方法的采样精度
机器学习
2021-09-24 v3 机器学习
摘要
许多马尔可夫链蒙特卡洛（MCMC）方法利用目标分布势函数的梯度信息来高效探索样本空间。然而，对于大规模应用（如当代机器学习中的那些），计算梯度通常计算代价高昂。随机梯度（SG-）MCMC 方法通过随机梯度近似梯度，通常通过对数据点均匀子采样实现，并获得了改进的计算效率，但代价是引入了采样误差。我们提出一种非均匀子采样方案以提升采样精度。所提出的指数加权随机梯度（EWSG）被设计为使非均匀-SG-MCMC 方法模仿批梯度-MCMC 方法的统计行为，从而减小因 SG 近似导致的不准确性。EWSG 不同于经典方差缩减（VR）技术，因其关注整个分布而非仅方差；不过，其降低的局部方差也得到了证明。EWSG 也可视为成功用于基于随机梯度优化的重采样思想向采样任务的扩展。在我们 EWSG 的实际实现中，非均匀子采样通过数据索引上的 Metropolis-Hastings 链高效执行，该链与 MCMC 算法耦合。我们提供了数值实验，不仅展示 EWSG 的有效性，也指导超参数选择，并验证我们的 \emph{非渐近全局误差界}（尽管实现中存在近似）。值得注意的是，在统计精度提升的同时，收敛速度可与均匀版本相当，这使得 EWSG 成为 VR 的实用替代方案（但 EWSG 和 VR 也可结合）。
引用
@article{arxiv.2002.08949,
title = {Improving Sampling Accuracy of Stochastic Gradient MCMC Methods via Non-uniform Subsampling of Gradients},
author = {Ruilin Li and Xin Wang and Hongyuan Zha and Molei Tao},
journal= {arXiv preprint arXiv:2002.08949},
year = {2021}
}