一种基于自标注与自注意力的统一生成对抗网络训练方法
机器学习
2021-06-21 v1 计算机视觉与模式识别
摘要
我们提出了一种新颖的 GAN 训练方案，能够以统一方式处理任意程度的标注信息。我们的方案引入一种人工标注形式，在可用时可纳入人工定义的标签，并诱导它们之间的对齐。为定义人工标签，我们利用如下假设：神经网络生成器更容易被训练为将邻近的潜向量映射到具有语义相似性的数据，而非跨不同类别的数据。我们使用生成的数据样本及其对应的人工条件标签来训练一个分类器。随后该分类器被用于为真实数据自标注。为提升自标注的准确性，我们还使用了分类器的指数移动平均。然而，由于分类器仍可能出错，尤其在训练初期，我们还通过自注意力来精炼标签，即仅当分类器输出高分类概率分数时才采用真实数据样本的标注。我们在 CIFAR-10、STL-10 和 SVHN 上评估了我们的方法，表明自标注与自注意力均能持续提升生成数据的质量。更令人惊讶的是，我们发现所提方案甚至能超越类条件 GAN。
引用
@article{arxiv.2106.09914,
title = {A Unified Generative Adversarial Network Training via Self-Labeling and Self-Attention},
author = {Tomoki Watanabe and Paolo Favaro},
journal= {arXiv preprint arXiv:2106.09914},
year = {2021}
}