UM-Adapt：使用对抗性跨任务蒸馏的无监督多任务自适应
计算机视觉与模式识别
2019-09-17 v3
摘要
为实现人类水平的泛化能力，需要探索具有更强迁移能力的自适应表示学习方法。现有大多数方法独立地处理任务可迁移性和跨域自适应，导致泛化能力受限。在本文中，我们提出了 UM-Adapt——一个统一框架，可有效地对空间结构化预测任务执行无监督域自适应，同时在多任务设置中保持各项任务的均衡性能。为此，我们提出了两种新颖的正则化策略：a) 基于轮廓的内容正则化（CCR）；b) 利用跨任务蒸馏模块开发任务间的一致性。此外，避免使用常规的特设域判别器，我们将跨任务蒸馏损失重新用作能量函数的输出，以对抗性地最小化输入域差异。通过大量实验，我们证明了在从合成环境到自然环境的域偏移下，学习到的表示对于多个任务同时具有出色的泛化能力。UM-Adapt 在 ImageNet 分类上取得了 SOTA 迁移学习结果，即使在骨干网络较小的情况下，在 PASCAL VOC 2007 检测任务上也取得了相当的性能。此外，由此产生的半监督框架在 NYUD 和 Cityscapes 数据集上均超越了当前全监督多任务学习的 SOTA。
引用
@article{arxiv.1908.03884,
title = {UM-Adapt: Unsupervised Multi-Task Adaptation Using Adversarial Cross-Task Distillation},
author = {Jogendra Nath Kundu and Nishank Lakkakula and R. Venkatesh Babu},
journal= {arXiv preprint arXiv:1908.03884},
year = {2019}
}
备注
ICCV 2019 (Oral)