切片-Wasserstein空间中的高效梯度流
机器学习
2022-11-16 v3 最优化与控制
机器学习
摘要
在概率分布空间中最小化泛函可通过Wasserstein梯度流完成。为数值求解，一种可能方法是依赖Jordan-Kinderlehrer-Otto (JKO)格式，其类似于欧氏空间中的邻近格式。然而，它需要在每次迭代求解一个嵌套优化问题，并以其计算挑战著称，尤其在高位情形下。为缓解此问题，最新工作提出利用Brenier定理近似JKO格式，并使用输入凸神经网络(Input Convex Neural Networks)的梯度来参数化密度(JKO-ICNN)。但该方法计算成本高且存在稳定性问题。相反，本工作提出在赋予切片-Wasserstein (SW)距离的概率测度空间中使用梯度流。我们认为该方法比JKO-ICNN更灵活，因为SW具有闭式可微近似。因此，每一步的密度可由任意生成模型参数化，从而减轻计算负担并使其在更高维中可行。
引用
@article{arxiv.2110.10972,
title = {Efficient Gradient Flows in Sliced-Wasserstein Space},
author = {Clément Bonet and Nicolas Courty and François Septier and Lucas Drumetz},
journal= {arXiv preprint arXiv:2110.10972},
year = {2022}
}
备注
Published in Transactions on Machine Learning Research (November 2022)