重要性加权界得分函数梯度估计器的最优方差控制
机器学习
2020-12-10 v2 机器学习
摘要
本文给出重要性加权变分界（IWAE, importance weighted variational bound）的得分函数梯度估计器的新结果。我们证明，在大（重要性样本数）极限下，可选择控制变量使得估计器的信噪比（SNR, Signal-to-Noise ratio）以增长。这与标准路径wise梯度估计器中信噪比以下降形成对比。基于我们的理论发现，我们开发了一种扩展VIMCO的新型控制变量。在连续与离散生成模型的训练中，所提方法经验上实现了更优的方差缩减，使IWAE的SNR随增加而提升，且无需依赖重参数化技巧。该新型估计器在训练生成模型时，与最先进的免重参数化梯度估计器（如Reweighted Wake-Sleep (RWS)和热力变分目标（TVO, thermodynamic variational objective））具有竞争力。
引用
@article{arxiv.2008.01998,
title = {Optimal Variance Control of the Score Function Gradient Estimator for Importance Weighted Bounds},
author = {Valentin Liévin and Andrea Dittadi and Anders Christensen and Ole Winther},
journal= {arXiv preprint arXiv:2008.01998},
year = {2020}
}