DeGAN：用于从已训练分类器中检索代表性样本的数据增强 GAN
机器学习
2019-12-30 v1 计算机视觉与模式识别
机器学习
摘要
在数字信息爆炸的时代，每天都有大量来自多种模态的数据被生成和归档。然而，大多数与训练深度神经网络相关的问题仍然围绕缺乏针对给定任务足够丰富的数据。数据不仅用于训练初始模型，也用于未来的学习任务，如模型压缩和增量学习。一个多样化的数据集可用于训练初始模型，但由于数据隐私问题或内存限制，在产品生命周期内存储该数据集可能不可行。我们旨在弥合可用数据 abundance 与缺乏相关数据之间的差距，以服务于给定已训练网络的未来学习任务。我们使用可用数据（可能是原始训练数据集的不平衡子集，或来自相关领域的数据集），通过一种新颖的数据增强 GAN（DeGAN）框架，从已训练分类器中检索代表性样本。我们证明，来自相关领域的数据可被利用，在基准数据集上针对无数据知识蒸馏和增量学习任务取得最先进的性能。我们进一步证明，我们提出的框架可增强任意数据，即使来自不相关领域，也能使其对给定网络的未来学习任务更有用。
引用
@article{arxiv.1912.11960,
title = {DeGAN : Data-Enriching GAN for Retrieving Representative Samples from a Trained Classifier},
author = {Sravanti Addepalli and Gaurav Kumar Nayak and Anirban Chakraborty and R. Venkatesh Babu},
journal= {arXiv preprint arXiv:1912.11960},
year = {2019}
}
备注
Accepted at AAAI-2020