重参数化卷积以实现无任务干扰的增量多任务学习
计算机视觉与模式识别
2020-07-27 v1 机器学习
摘要
多任务网络通常用于减少对大量高度专业化的单任务网络的需求。然而，文献中常常忽略开发多任务模型的两个常见挑战。首先，使模型具有固有的增量性，能够在不遗忘先前学习任务的情况下持续整合新任务的信息（增量学习）。其次，消除任务之间的不利交互，这已被证明会显著降低多任务设置中的单任务性能（任务干扰）。在本文中，我们表明，只需将标准神经网络架构的卷积重参数化为一个不可训练的共享部分（滤波器组）和特定于任务的部分（调制器），其中每个调制器只占滤波器组参数的一小部分，即可实现这两个目标。因此，我们的重参数化使模型能够学习新任务而不会对现有任务的性能产生不利影响。我们的消融研究结果证明了所提出的重参数化的有效性。此外，我们的方法在两个具有挑战性的多任务学习基准 PASCAL-Context 和 NYUD 上达到了最先进的性能，并且与竞争对手相比，还展示了优越的增量学习能力。
引用
@article{arxiv.2007.12540,
title = {Reparameterizing Convolutions for Incremental Multi-Task Learning without Task Interference},
author = {Menelaos Kanakis and David Bruggemann and Suman Saha and Stamatios Georgoulis and Anton Obukhov and Luc Van Gool},
journal= {arXiv preprint arXiv:2007.12540},
year = {2020}
}
备注
European Conference on Computer Vision (ECCV), 2020