估计期望梯度的新技巧
机器学习
2022-04-21 v4 机器学习
摘要
我们引入了一族用于期望梯度的成对随机梯度估计器，它们与对数导数技巧相关，但涉及样本之间的成对交互。我们新估计器中最简单的例子被称为基本技巧估计器，可证明它源于以下两种方式之一：a) 引入并近似基于微积分基本定理的积分表示，或 b) 在参数无穷小扰动下对隐式参数化应用重参数化技巧。从前者视角我们推广到再生核希尔伯特空间表示，从而在上述成对交互中引入一个局部性参数，得到我们的表示子技巧估计器。所得估计器是无偏的，并且与对数导数估计器相比被证明提供了独立的有用信息分量。我们提供了进一步新颖的理论分析，进一步刻画了新技术所实现的方差缩减。有前景的分析与数值例子证实了新估计器背后的理论与直觉。
引用
@article{arxiv.1901.11311,
title = {New Tricks for Estimating Gradients of Expectations},
author = {Christian J. Walder and Paul Roussel and Richard Nock and Cheng Soon Ong and Masashi Sugiyama},
journal= {arXiv preprint arXiv:1901.11311},
year = {2022}
}