从预训练 GAN 中擦除数据

大型预训练生成模型已知偶尔会输出不良样本，这损害了它们的可信度。缓解该问题的常见方法是使用不同数据或不同正则化从头重新训练——这耗费大量计算资源且并非总能完全解决问题。在本工作中，我们采取一种不同的、更省算力的思路，研究如何在训练后对已训练模型进行后编辑，使其“擦除”或避免输出某些类型的样本。我们表明擦除从根本上不同于数据删除，且数据删除未必总能导致擦除。随后我们考虑生成对抗网络 (GANs)，并针对待擦除样本的描述方式不同提供三种不同的数据擦除算法。在真实世界图像数据集上的大量评估表明，我们的算法优于数据删除基线，并能够以全量重新训练的一小部分成本在保留高生成质量的同时擦除数据。