面向不可微模型的重参数化梯度

我们提出了一种针对具有不可微密度的模型的新随机变分推断算法。随机变分推断的关键挑战之一是给出变分目标梯度的一个低方差估计量。我们通过推广重参数化技巧来应对这一挑战，该技巧是解决可微模型方差问题最有效技术之一，我们使其同样适用于不可微模型。我们的算法将潜变量空间划分为密度可微的区域以及密度可能不可微的边界。对于每个可微区域，算法应用标准重参数化技巧并估计限于该区域的梯度。对于每个可能不可微的边界，它使用一种流形采样形式并计算变分参数的方向，若沿此方向更新将增加边界对变分目标的贡献。所有估计之和成为我们算法的梯度估计。我们的估计量享有重参数化梯度的降方差特性，同时即使对不可微模型也保持无偏。我们初步实现的实验证实了降方差和无偏性的益处。