Piggyback GAN：面向图像条件生成的高效终身学习
计算机视觉与模式识别
2021-04-27 v1
摘要
人类以终身方式积累知识。另一方面，现代深度神经网络易受灾难性遗忘的影响：当被调整以执行新任务时，它们常常无法保持先前学习任务上的性能。给定一系列任务，解决灾难性遗忘的一种朴素方法是为每个任务训练一个独立的单独模型，这会在不高效利用先前模型的情况下急剧增加参数总量。相反，我们提出了一个参数高效的框架 Piggyback GAN，它通过构建一组卷积和反卷积滤波器来学习当前任务，这些滤波器被分解为在先前任务上训练的模型的滤波器。对于当前任务，我们的模型以更少的参数实现了与单独模型相当的较高生成质量。对于先前的任务，我们的模型也能保持生成质量，因为先前任务的滤波器未被改动。我们在跨不同领域的各种图像条件生成任务上验证了 Piggyback GAN，并给出定性和定量结果以表明所提方法能高效且有效地解决灾难性遗忘。
引用
@article{arxiv.2104.11939,
title = {Piggyback GAN: Efficient Lifelong Learning for Image Conditioned Generation},
author = {Mengyao Zhai and Lei Chen and Jiawei He and Megha Nawhal and Frederick Tung and Greg Mori},
journal= {arXiv preprint arXiv:2104.11939},
year = {2021}
}
备注
Accepted to ECCV 2020