更好地理解归因方法

深度神经网络在许多视觉任务上非常成功，但由于其黑盒性质而难以解释。为此，人们提出了各种事后归因方法来识别对模型决策影响最大的图像区域。由于不存在真实归因，评估此类方法具有挑战性。因此我们提出三种新颖的评估方案，以更可靠地度量这些方法的忠实性，使它们之间的比较更公平，并使视觉检查更系统化。针对忠实性，我们提出一种新颖的评估设定（DiFull），其中我们仔细控制输入的哪些部分可以影响输出，以区分可能与不可能的归因。针对公平性，我们注意到不同方法应用于不同层，这会扭曲任何比较，因此在相同层上评估所有方法（ML-Att）并讨论这如何影响其在量化指标上的性能。为更系统的可视化，我们提出一种方案（AggAtt）在完整数据集上定性评估这些方法。我们利用这些评估方案研究了某些广泛使用的归因方法的优势与不足。最后，我们提出一个后处理平滑步骤，显著提升了某些归因方法的性能，并讨论其适用性。