基于域随机化与元学习的视觉表征持续自适应

大多数标准学习方法会导致脆弱的模型，当连续在不同性质的样本上训练时易发生漂移——即众所周知的“灾难性遗忘”问题。特别地，当模型依次从不同的视觉域学习时，它倾向于遗忘过去的域而偏向最近的域。在此背景下，我们表明学习天生对遗忘更鲁棒的模型的一种方式是域随机化——对于视觉任务，即通过重度图像变换随机化当前域的分布。基于该结果，我们设计了一种元学习策略，其中正则化项显式惩罚将模型从当前域迁移到不同“辅助”元域相关的任何损失，同时缓解对它们的适应。此类元域同样通过随机化图像变换生成。我们在涵盖分类到语义分割的多种实验中实证表明，我们的方法所得模型在迁移至新域时更不易发生灾难性遗忘。