变分 Wasserstein 梯度流
机器学习
2022-07-26 v3
摘要
Wasserstein 梯度流已成为求解概率分布空间上优化问题的一种有前景的方法。近期趋势是将著名的 JKO 格式与输入凸神经网络结合，以数值实现邻近步。在此设置中，最具挑战性的一步是显式地用样本评估涉及密度的函数，如熵。本文基于近期工作构建，但带有一个细微而关键的差异：我们提议利用目标函数的变分形式，将其表述为对参数化函数类上的最大化。理论上，所提变分形式允许直接为经验分布构造具有定义良好且有意义目标函数的梯度流。计算上，该方法将现有方法中处理涉及密度的目标函数的计算昂贵步骤，替换为仅需一小批样本且随维度良好扩展的内循环更新。所提方法的性能与可扩展性借助若干涉及高维合成与真实数据集的数值实验得以阐明。
引用
@article{arxiv.2112.02424,
title = {Variational Wasserstein gradient flow},
author = {Jiaojiao Fan and Qinsheng Zhang and Amirhossein Taghvaei and Yongxin Chen},
journal= {arXiv preprint arXiv:2112.02424},
year = {2022}
}