消融路径显著性

为解释黑盒分类，已提出多种类型的显著性方法。在图像应用中，这意味着突出图像中与当前决策最相关的部分。遗憾的是，不同方法可能相互矛盾，且难以量化解释的真实代表性与忠实度。然而我们观察到，其中若干方法可视为基于在分类器定义域中寻找特定路径的单一更通用过程的边缘情形。这为现有方法提供了额外的几何解释。我们进一步证明，消融路径可直接作为一种独立技术使用。它能在现有基准上与文献方法竞争，同时给出更细粒度的信息，并为验证解释的忠实度提供更好机会。