面向GAN的稀疏感知归一化
计算机视觉与模式识别
2021-04-29 v2 图像与视频处理
摘要
众所周知，生成对抗网络（GANs）在训练过程中受益于对其判别器（critic/discriminator）网络的正则化或归一化。本文中，我们分析了流行的谱归一化方案，发现了显著缺陷，并引入了稀疏感知归一化（SAN），一种用于稳定GAN训练的新替代方法。与其他归一化方法不同，我们的方法显式地考虑了具有ReLU激活的卷积网络中特征图的稀疏性质。我们通过大量使用多种网络架构的实验说明了方法的有效性。正如我们所展示的，在图像到图像翻译设置中使用的判别器里稀疏性尤为显著。在这些情况下，我们的方法以更少的训练轮数、更小的容量网络超越了现有方法，同时几乎不需要计算开销。
引用
@article{arxiv.2103.02458,
title = {Sparsity Aware Normalization for GANs},
author = {Idan Kligvasser and Tomer Michaeli},
journal= {arXiv preprint arXiv:2103.02458},
year = {2021}
}
备注
AAAI Conference on Artificial Intelligence (AAAI-21)