照亮深度：单目深度估计中的可解释性评估

可解释人工智能被越来越多地用于理解深度学习模型的决策过程，并为其应用建立可信赖度。然而，尽管单目深度估计（MDE）在现实世界应用中被广泛部署，其可解释性在很大程度上仍未被探索。在这项工作中，我们研究如何分析 MDE 网络以将输入图像映射到预测深度图。更详细地，我们研究了成熟的特征归因方法——显著性图、积分梯度和注意力展开，应用于不同的计算复杂的 MDE 模型：轻量级网络 METER 和深度网络 PixelFormer。我们通过选择性地扰动由可解释性方法识别出的最相关和最不相关的像素，并分析这些扰动对模型输出的影响，来评估生成的视觉解释的质量。此外，由于现有评估指标在衡量 MDE 视觉解释的有效性时可能存在局限性，我们额外引入了归因保真度。该指标通过评估特征归因与预测深度图的一致性来衡量其可靠性。实验结果表明，显著性图和积分梯度分别在突出 MDE 轻量级模型和深度模型的最重要输入特征方面具有良好的性能。此外，我们表明，即使在传统指标可能表明结果令人满意的场景下，归因保真度也能有效识别可解释性方法是否未能产生可靠的视觉图。