基于最优传输与投影寻踪的时间依赖密度生成建模
机器学习
2023-10-13 v2 机器学习
摘要
受限于流行的深度学习算法在时间依赖密度生成建模中所带来的计算困难，我们提出了一种低成本的替代方案，该方案需要极少的超参数调优，并且对高维问题具有良好的可扩展性。具体而言，我们使用基于投影的最优传输求解器[Meng et al., 2019]来连接连续样本，随后使用传输样条[Chewi et al., 2020]对演化密度进行插值。当采样频率足够高时，最优映射接近于恒等映射，因此计算效率高。此外，训练过程高度可并行化，因为所有最优映射相互独立，可同时学习。最后，该方法完全基于数值线性代数而非最小化非凸目标函数，使我们能够轻松分析和控制算法。我们在合成和真实世界数据集上进行了若干数值实验，以证明方法的效率。特别地，这些实验表明，在广泛的维度范围内，与最先进的随时间条件化的标准化流相比，所提方法具有极强的竞争力。
引用
@article{arxiv.2304.09663,
title = {Generative modeling of time-dependent densities via optimal transport and projection pursuit},
author = {Jonah Botvinick-Greenhouse and Yunan Yang and Romit Maulik},
journal= {arXiv preprint arXiv:2304.09663},
year = {2023}
}
备注
This article may be downloaded for personal use only. Any other use requires prior permission of the author and AIP Publishing. This article appeared in Chaos: An Interdisciplinary Journal of Nonlinear Science, Volume 33, Issue 10, October 2023 and may be found at https://doi.org/10.1063/5.0155783