面向驾驶场景语义分割的领域自适应知识蒸馏
计算机视觉与模式识别
2020-11-30 v2
摘要
实际自动驾驶系统面临两个关键挑战：内存限制和领域差距问题。本文提出一种新颖方法，在内存有限的模型中学习领域自适应知识，从而使模型能够全面处理这些问题。我们将其称为“领域自适应知识蒸馏”，并在无监督领域自适应语义分割的背景下，通过提出多级蒸馏策略来有效蒸馏不同层次的知识。此外，我们引入了一种新颖的交叉熵损失，利用教师网络的伪标签。这些伪教师标签扮演多重角色：(i) 从教师网络向学生网络进行知识蒸馏；(ii) 作为目标域图像的ground truth代理，而该问题完全是无监督的。我们引入了四种蒸馏领域自适应知识的范式，并在真实到真实以及合成到真实的场景中进行了大量实验和消融研究。实验表明我们提出的方法取得了显著成功。
引用
@article{arxiv.2011.08007,
title = {Domain Adaptive Knowledge Distillation for Driving Scene Semantic Segmentation},
author = {Divya Kothandaraman and Athira Nambiar and Anurag Mittal},
journal= {arXiv preprint arXiv:2011.08007},
year = {2020}
}
备注
Accepted for publication at Autonomous Vehicle Vision Workshop at WACV 2021, 10 pages (including references)