深度神经网络域扩展中遗忘更少的学习方法

在不访问旧域数据的情况下扩展深度神经网络已学习域是一项具有挑战性的任务，因为深度神经网络在学习来自新域的新数据时会遗忘先前学习的信息。本文中，我们针对域扩展场景提出一种遗忘更少的学习方法。现有域自适应技术仅关注适应新域，而所提技术关注在无需知道输入来自旧域或新域的情况下，对旧域和新域均表现良好。首先，我们给出两种会有问题的朴素方法，然后提供一种利用所提两个性质实现遗忘更少学习的新方法。最后，我们通过图像分类任务的实验证明了方法的有效性。文中使用的所有数据集将在我们的网站上发布以供后续研究。