局部 GAN 收敛性的函数空间分析
机器学习
2021-02-09 v1
摘要
近期工作展示了研究支配 GAN 训练的连续时间动力学的益处。然而,该动力学是在模型参数空间中分析的,这导致有限维动力系统。我们提出一种新视角,在一般函数空间中研究对抗训练的局部动力学,并展示其如何可表示为偏微分方程组。从而,收敛性质可由所得微分算子的特征值推断。我们展示这些特征值可在训练前从目标数据集高效估计。我们的视角揭示了关于常用于稳定 GAN 的实用技巧的若干见解,如梯度惩罚、数据增强与高级积分格式。作为直接的实际益处,我们展示了如何针对特定生成任务先验地选取最优数据增强策略。
引用
@article{arxiv.2102.04448,
title = {Functional Space Analysis of Local GAN Convergence},
author = {Valentin Khrulkov and Artem Babenko and Ivan Oseledets},
journal= {arXiv preprint arXiv:2102.04448},
year = {2021}
}