EAGAN：面向 GAN 的高效两阶段进化架构搜索
计算机视觉与模式识别
2022-07-13 v2 机器学习
神经与进化计算
摘要
生成对抗网络（GANs）已在图像生成任务中被证明是成功的。然而，GAN 训练本质上不稳定。尽管许多工作试图通过手动修改 GAN 架构来稳定训练，但这需要大量专业知识。神经架构搜索（NAS）已成为自动搜索 GAN 的一种有吸引力的方案。早期的 NAS-GAN 仅搜索生成器以降低搜索复杂度，但导致次优的 GAN。一些近期工作尝试同时搜索生成器（G）与判别器（D），但它们受困于 GAN 训练的不稳定性。为缓解不稳定性，我们提出一种基于高效两阶段进化算法的 NAS 框架来搜索 GAN，即 EAGAN。我们将 G 与 D 的搜索解耦为两个阶段：阶段 1 以固定 D 搜索 G，并采用多对一训练策略；阶段 2 以阶段 1 找到的最优 G 搜索 D，并采用一对一训练与权重重置策略以增强 GAN 训练的稳定性。两个阶段均使用非支配排序方法在多个目标（如模型大小、Inception Score (IS) 和 Fréchet Inception Distance (FID)）下生成帕累托前沿架构。EAGAN 应用于无条件图像生成任务，并能在 CIFAR-10 数据集上以 1.2 GPU 天高效完成搜索。我们搜索到的 GAN 在 CIFAR-10 数据集上取得了具竞争力的结果（IS=8.810.10，FID=9.91），并在 STL-10 数据集上超越先前的 NAS-GAN（IS=10.440.087，FID=22.18）。源代码：https://github.com/marsggbo/EAGAN。
引用
@article{arxiv.2111.15097,
title = {EAGAN: Efficient Two-stage Evolutionary Architecture Search for GANs},
author = {Guohao Ying and Xin He and Bin Gao and Bo Han and Xiaowen Chu},
journal= {arXiv preprint arXiv:2111.15097},
year = {2022}
}
备注
Accepted in ECCV2022, Guohao Yin and Xin He contributed equally