基于类特定反事实的固有可解释多标签分类

可解释性对于医学图像分析等高风险应用领域的机器学习算法至关重要。然而，高性能的黑盒神经网络无法为其预测提供解释，这可能导致不信任以及人机协作欠佳。在实践中广泛使用的后置解释技术已被证明存在严重的概念性问题。此外，正如我们在本文中所展示的，当前的解释技术在多标签场景下表现不足，在该场景中多个医学发现可能同时出现于单张图像中。我们提出 Attri-Net，一种用于多标签分类的固有可解释模型。Attri-Net 是一个强大的分类器，可提供透明、可信且人类可理解的解释。该模型首先基于反事实生成类特定归因图，以识别哪些图像区域对应于某些医学发现。然后使用一个简单的逻辑回归分类器，仅基于这些归因图进行预测。我们在三个胸部 X 射线数据集上将 Attri-Net 与五种后置解释技术和一种固有可解释分类器进行比较。我们发现 Attri-Net 生成了与临床知识一致的高质量多标签解释，并且具有与最先进分类模型相当的分类性能。