自注意力生成对抗网络
机器学习
2019-06-18 v2 机器学习
摘要
本文中，我们提出自注意力生成对抗网络（SAGAN），该网络为图像生成任务提供注意力驱动的长程依赖建模。传统卷积 GAN 仅以低分辨率特征图中空间局部点为函数生成高分辨率细节。在 SAGAN 中，细节可利用所有特征位置的线索生成。此外，判别器可检查图像远处区域中高度细节化的特征彼此是否一致。再者，近期工作表明生成器条件化影响 GAN 性能。利用该见解，我们对 GAN 生成器应用谱归一化，发现这改善了训练动态。所提 SAGAN 取得了最先进结果，在具有挑战性的 ImageNet 数据集上将已发表最佳 Inception 分数从 36.8 提升至 52.52，并将 Frechet Inception 距离从 27.62 降至 18.65。注意力层的可视化显示，生成器利用的是对应于物体形状的邻域，而非固定形状的局部区域。
引用
@article{arxiv.1805.08318,
title = {Self-Attention Generative Adversarial Networks},
author = {Han Zhang and Ian Goodfellow and Dimitris Metaxas and Augustus Odena},
journal= {arXiv preprint arXiv:1805.08318},
year = {2019}
}