用于克服遗忘的自监督 GAN
机器学习
2018-12-06 v2 计算机视觉与模式识别
机器学习
摘要
GAN 涉及在两个网络的对抗博弈中进行训练，其中每个网络的任务都依赖于其对手。最近，若干工作将 GAN 训练构建为在线或持续学习问题。我们关注判别器，它必须在（对抗性）漂移的数据分布下执行分类。当在顺序任务上训练时，神经网络会表现出遗忘。对于 GAN，判别器遗忘会导致训练不稳定。为克服遗忘，我们通过添加自监督来鼓励判别器保持有用的表示。条件 GAN 利用标签产生类似效果。然而，我们的自监督 GAN 不需要标签，并缩小了条件模型与无条件模型之间的性能差距。我们表明，在此过程中，自监督判别器比常规 GAN 学习到更好的表示。
引用
@article{arxiv.1810.11598,
title = {Self-Supervised GAN to Counter Forgetting},
author = {Ting Chen and Xiaohua Zhai and Neil Houlsby},
journal= {arXiv preprint arXiv:1810.11598},
year = {2018}
}
备注
NeurIPS'18 Continual Learning workshop