Distill Any Depth：蒸馏创建更强的单目深度估计器

近期在零样单目深度估计（MDE）方面的进展显著提高了通过归一化深度表示统一深度分布，并通过伪标签蒸馏利用大规模无标签数据实现的泛化能力。然而，依赖全局深度归一化的现有方法会将所有深度值视为等价，从而放大伪标签中的噪声，降低蒸馏效果。本文对深度归一化策略在伪标签蒸馏语境下的作用进行了系统性分析。我们的研究表明，在最新的蒸馏范式（例如共享上下文蒸馏）下，归一化并非总是必要的，因为省略它可以帮助减轻噪声监督的影响。此外，虽然关注深度信息的表示方式，但我们提出了跨上下文蒸馏（Cross-Context Distillation），该方法整合全局和局部深度线索以增强伪标签质量。我们还引入一种辅助导师引导的蒸馏策略，融合基于扩散模型的教师模型所提供的互补深度先验，增强监督的多样性和鲁棒性。在基准数据集上的大量实验表明，我们的方法在定量和定性方面均显著优于最先进的方法。