用于离散潜变量的耦合梯度估计器
机器学习
2022-11-16 v2 机器学习
摘要
由于无偏梯度估计器的高方差，训练带有离散潜变量的模型具有挑战性。连续松弛的低方差重参数化梯度可提供有效解决方案，但连续松弛并非总是可用或易处理。Dong 等人（2020）与 Yin 等人（2020）引入了一种不依赖连续松弛的高性能估计器；然而，它仅限于二元随机变量。我们基于重要性采样与统计耦合，对其估计器给出了一种新颖推导，并将其推广到分类设定。受构造 stick-breaking 耦合的启发，我们引入了基于将分类变量重参数化为二元变量序列并 Rao-Blackwell 化的梯度估计器。在系统性实验中，我们表明我们提出的分类梯度估计器提供了最先进的性能，而即便辅以额外的 Rao-Blackwell 化，此前的估计器（Yin 等人，2019）也逊于更简单的带留一法基线（leave-one-out-baseline）的 REINFORCE 估计器（Kool 等人，2019）。
引用
@article{arxiv.2106.08056,
title = {Coupled Gradient Estimators for Discrete Latent Variables},
author = {Zhe Dong and Andriy Mnih and George Tucker},
journal= {arXiv preprint arXiv:2106.08056},
year = {2022}
}
备注
Published in NeurIPS 2021