不可微模拟器的对抗变分优化
机器学习
2020-04-17 v5 机器学习
摘要
复杂的计算机模拟器被越来越多地用作将底层理论的参数与实验观测联系起来的生成模型，应用于各个科学领域。在这种设置下进行推断通常是困难的，因为模拟器很少具有易于处理的密度或似然函数。我们引入了对抗变分优化，这是一种用于拟合不可微生成模型的无似然推断算法，融合了生成对抗网络、变分优化和经验贝叶斯的思想。我们通过将可微生成网络替换为特定领域的模拟器，调整了生成对抗网络的训练过程。我们通过最小化两个对抗目标的变分上界来求解由此产生的不可微极小极大问题。实际上，该过程的结果是学习到一个关于模拟器参数的提议分布，使得合成数据的边缘分布与观测数据的经验分布之间的 JS 散度最小化。我们使用产生离散和连续数据的模拟器对该方法进行了评估和比较。
引用
@article{arxiv.1707.07113,
title = {Adversarial Variational Optimization of Non-Differentiable Simulators},
author = {Gilles Louppe and Joeri Hermans and Kyle Cranmer},
journal= {arXiv preprint arXiv:1707.07113},
year = {2020}
}
备注
v4: Final version published at AISTATS 2019; v5: Fixed typo in Eqn 13