BiFuse++:用于360度深度估计的自监督高效双投影融合方法
计算机视觉与模式识别
2022-09-08 v1
摘要
随着球面相机的兴起,单目360度深度估计成为许多应用(如自主系统)的一项重要技术。因此,诸如BiFuse中的双投影融合等最先进的单目360度深度估计框架被提出。训练此类框架需要大量全景图以及由激光传感器捕获的相应深度真值,这极大地增加了数据收集的成本。此外,由于这种数据收集过程耗时,将这些方法扩展到不同场景的可扩展性成为一项挑战。为此,从360度视频中自训练单目深度估计网络是缓解该问题的一种途径。然而,现有框架中尚无将双投影融合纳入自训练方案的先例,这极大限制了自监督性能,因为双投影融合可利用来自不同投影类型的信息。本文中,我们提出BiFuse++以探索双投影融合与自训练场景的结合。具体而言,我们提出一种新的融合模块与对比感知光度损失(Contrast-Aware Photometric Loss),以提升BiFuse的性能并增强在真实世界视频上自训练的稳定性。我们在基准数据集上进行了有监督与自监督实验,并取得了最先进的性能。
引用
@article{arxiv.2209.02952,
title = {BiFuse++: Self-supervised and Efficient Bi-projection Fusion for 360 Depth Estimation},
author = {Fu-En Wang and Yu-Hsuan Yeh and Yi-Hsuan Tsai and Wei-Chen Chiu and Min Sun},
journal= {arXiv preprint arXiv:2209.02952},
year = {2022}
}
备注
Accepted in TPAMI 2022; Code: https://github.com/fuenwang/BiFusev2