离散潜变量模型中用于梯度估计的双重控制变量
机器学习
2022-06-07 v3 机器学习
摘要
由于梯度高方差，基于随机梯度的离散潜变量模型优化颇具挑战。我们引入了一种利用双重控制变量降低分数函数估计器方差的技术。这些控制变量作用于主控制变量之上，并尝试进一步降低整体估计器的方差。我们利用泰勒展开为REINFORCE留一估计器开发了双重控制变量。对于训练具有二值潜变量的变分自编码器等离散潜变量模型，与采用REINFORCE留一估计器的标准训练相比，我们的方法不增加额外计算成本。我们将该方法应用于具有挑战性的高维玩具示例以及训练具有二值潜变量的变分自编码器。我们表明，与其他最先进估计器相比，我们的估计器可具有更低方差。
引用
@article{arxiv.2111.05300,
title = {Double Control Variates for Gradient Estimation in Discrete Latent Variable Models},
author = {Michalis K. Titsias and Jiaxin Shi},
journal= {arXiv preprint arXiv:2111.05300},
year = {2022}
}
备注
AISTATS 2022. Source code: https://github.com/thjashin/double-cv