精炼与蒸馏：利用循环不一致性与知识蒸馏的无监督单目深度估计
计算机视觉与模式识别
2019-04-23 v2
摘要
如今，大多数最先进的单目深度估计技术都基于有监督深度学习模型。然而，收集带有对应深度图的RGB图像是一项非常耗时的过程。因此，近期工作提出了深度架构，将单目深度预测任务作为重建问题来处理，从而避免了收集真实深度值的需求。遵循这些工作，我们提出了一种用于估计深度图的新型自监督深度模型。我们的框架利用了两种主要策略：通过循环不一致性进行精炼以及蒸馏。具体而言，首先训练一个“学生”网络来预测视差图，以便从某一相机视角的帧中恢复出相反视角下的对应图像。然后，对一个反向循环网络应用于生成的图像以重新合成输入图像，估计相反的视差。第三个网络利用原始输入帧与重建输入帧之间的不一致性，输出精炼后的深度图。最后，利用知识蒸馏将精炼网络的信息传递给学生网络。我们广泛的实验评估证明了所提框架的有效性，其在KITTI基准上优于最先进的无监督方法。
引用
@article{arxiv.1903.04202,
title = {Refine and Distill: Exploiting Cycle-Inconsistency and Knowledge Distillation for Unsupervised Monocular Depth Estimation},
author = {Andrea Pilzer and Stéphane Lathuilière and Nicu Sebe and Elisa Ricci},
journal= {arXiv preprint arXiv:1903.04202},
year = {2019}
}
备注
Accepted at CVPR2019