DisARM：一种面向二元隐变量的对偶梯度估计器
机器学习
2020-12-07 v2 机器学习
摘要
由于难以准确估计梯度，训练具有离散隐变量的模型极具挑战。近期的许多进展得益于利用系统的连续松弛，但这并不总是可行甚至可能。Augment-REINFORCE-Merge (ARM) 估计器提供了一种替代方案，它不采用松弛，而是使用连续增广。对增广变量应用对偶采样，可得到一个低方差且无偏的估计器，适用于任何具有二元隐变量的模型。然而，尽管对偶采样降低了方差，增广过程却增加了方差。我们证明，通过解析地积出增广过程引入的随机性，可以改进 ARM，从而保证大幅降低方差。我们的估计器 DisARM 实现简单，且计算成本与 ARM 相同。我们在多个生成式建模基准上评估了 DisARM，结果表明在方差和对数似然方面，它始终优于 ARM 和强独立样本基线。此外，我们提出了一种专为优化多样本变分界设计的 DisARM 局部版本，并证明其优于当前最先进的方法 VIMCO。
引用
@article{arxiv.2006.10680,
title = {DisARM: An Antithetic Gradient Estimator for Binary Latent Variables},
author = {Zhe Dong and Andriy Mnih and George Tucker},
journal= {arXiv preprint arXiv:2006.10680},
year = {2020}
}