面向基于期望目标的 GO 梯度
机器学习
2019-01-21 v1 机器学习
摘要
在许多机器学习算法中,一个基本问题涉及针对基于期望的目标 高效计算关于参数 的无偏梯度。大多数现有方法要么(i)方差较高,寻求(通常)复杂的方差缩减技术帮助;要么(ii)仅适用于可重参数化的连续随机变量并采用重参数化技巧。为克服这些局限,我们提出一种通用且单样本(General and One-sample, GO)梯度,其(i)适用于与不可重参数化的连续或离散随机变量相关的许多分布,且(ii)具有与重参数化技巧同样低的方差。我们发现 GO 梯度在实践中常仅基于一个蒙特卡洛样本即可良好工作(当然若需要也可使用更多样本)。除 GO 梯度外,我们发展了通过分布传播链式法则的方法,产生统计反向传播,将神经网络与常见随机变量相耦合。
引用
@article{arxiv.1901.06020,
title = {GO Gradient for Expectation-Based Objectives},
author = {Yulai Cong and Miaoyun Zhao and Ke Bai and Lawrence Carin},
journal= {arXiv preprint arXiv:1901.06020},
year = {2019}
}