基于流引导密度比学习的生成建模
机器学习
2024-06-06 v3 人工智能
摘要
我们提出流引导密度比学习（FDRL），一种简单且可扩展的生成建模方法，它建立在近期工作中引入的熵正则化 f-散度的梯度流的陈旧（时间无关）近似之上。具体而言，难以处理的时间依赖密度比由一个 GAN 判别器给出的陈旧估计量来近似。在样本精炼的情形下这已足够，因为流的源分布与目标分布彼此接近。然而，这一假设在生成任务中不成立，由于两分布间存在巨大鸿沟，朴素应用该陈旧估计量会失败。FDRL 提出训练一个密度比估计量，使其在训练过程中从逐步改善的样本中学习。我们表明这一简单方法缓解了密度鸿沟问题，使 FDRL 能够生成高达 尺寸的图像，并在量化基准上优于现有的梯度流基线。我们还通过两个用例展示了 FDRL 的灵活性。首先，无条件 FDRL 可轻松与外部分类器组合以执行类条件生成。其次，FDRL 可直接应用于非配对图像到图像翻译，无需对框架做任何修改。我们的代码公开于 ttps://github.com/clear-nus/fdrl。
引用
@article{arxiv.2303.03714,
title = {Generative Modeling with Flow-Guided Density Ratio Learning},
author = {Alvin Heng and Abdul Fatir Ansari and Harold Soh},
journal= {arXiv preprint arXiv:2303.03714},
year = {2024}
}