中文

基于带噪声泊松融合的自蒸馏深度细化

计算机视觉与模式识别 2024-11-26 v3

摘要

深度细化旨在推断具有细粒度边缘和细节的高分辨率深度,从而细化深度估计模型的低分辨率结果。当前方法采用基于图块的方式通过合并众多图像块,这既不够高效,又会产生不一致。此外,先前的方法会受到模糊深度边界和有限通用性的制约。分析这些限制的根本原因,我们将深度细化建模为具有局部不一致性和边缘变形噪声的带噪声泊松融合问题。我们提出了自蒸馏深度细化(SDDR)框架,以增强对噪声的鲁棒性,主要由深度边缘表示和边缘引导组成。通过粗到细的自蒸馏,SDDR从带噪声的深度预测生成低噪声深度边缘表示作为伪标签。边缘引导损失和基于边缘的融合损失作为优化目标,等价于泊松融合。当深度图更好地被细化时,标签也会更少噪声。我们的模型能够对噪声具有强大的鲁棒性,在五个不同基准测试中显著提高了精度、边缘质量、效率和通用性。此外,直接使用SDDR生成的边缘标签训练另一个模型也能带来改进,表明我们的方法有望在未来工作中帮助训练更具鲁棒性的细化模型。

关键词

引用

@article{arxiv.2409.17880,
  title  = {Self-Distilled Depth Refinement with Noisy Poisson Fusion},
  author = {Jiaqi Li and Yiran Wang and Jinghong Zheng and Zihao Huang and Ke Xian and Zhiguo Cao and Jianming Zhang},
  journal= {arXiv preprint arXiv:2409.17880},
  year   = {2024}
}

备注

Accepted by NeurIPS 2024