利用分布外仿真图像进行稠密深度蒸馏
计算机视觉与模式识别
2023-12-11 v3
摘要
我们研究用于单目深度估计（MDE）的无数据知识蒸馏（KD），其通过从训练好的教师模型压缩得到轻量模型，用于真实世界深度感知任务，且在目标域缺乏训练数据。由于图像分类与稠密回归的本质差异，先前的无数据KD方法不适用于MDE。为增强其在真实任务中的适用性，本文提出利用分布外仿真图像进行KD。待解决的主要挑战是：i）缺乏真实训练数据场景配置的先验信息；ii）仿真与真实图像间的域偏移。为应对这些困难，我们提出一个定制的深度蒸馏框架。该框架生成新训练样本以涵盖目标域中多种可能的物体排布，并利用变换网络将其高效适配至教师模型中保留的特征统计。通过在多种深度估计模型和两个不同的数据集上的大量实验，我们表明该方法以明显优势超越基线KD，甚至仅用1/6的训练图像即取得略优性能，展现出清晰优越性。
引用
@article{arxiv.2208.12464,
title = {Dense Depth Distillation with Out-of-Distribution Simulated Images},
author = {Junjie Hu and Chenyou Fan and Mete Ozay and Hualie Jiang and Tin Lun Lam},
journal= {arXiv preprint arXiv:2208.12464},
year = {2023}
}