对 Straight-Through Gumbel-Softmax 梯度估计器进行 Rao-Blackwell 化
机器学习
2020-10-13 v1 机器学习
摘要
在具有离散潜变量的模型中，梯度估计是一个具有挑战性的问题，因为最简单的无偏估计器往往具有高方差。为应对这一点，现代估计器要么引入偏差，要么依赖多次函数求值，要么使用学习的、输入相关的基线。因此，需要一种仅需极少调参、计算代价低且均方误差小的估计器。本文中，我们证明流行的 Gumbel-Softmax 估计器的 straight-through 变体的方差可通过 Rao-Blackwell 化降低，且无需增加函数求值次数。这可从理论上降低均方误差。我们通过经验证明，这在两个无监督潜变量模型中带来了方差缩减、更快收敛以及总体改进的性能。
引用
@article{arxiv.2010.04838,
title = {Rao-Blackwellizing the Straight-Through Gumbel-Softmax Gradient Estimator},
author = {Max B. Paulus and Chris J. Maddison and Andreas Krause},
journal= {arXiv preprint arXiv:2010.04838},
year = {2020}
}