全局显著性：聚合显著性图以评估数据集伪影偏差

在机器学习模型的高风险应用中，可解释性方法提供了模型因正确理由而正确的保证。在医学影像中，显著性图已成为判断神经模型是否学到了相关鲁棒特征而非伪影噪声的标准工具。然而，显著性图仅限于局部模型解释，因为它们是逐图像地解释预测。我们提出使用语义分割掩码在全局范围内聚合显著性，以提供模型在整个数据集上偏差的定量度量。为了评估全局显著性方法，我们提出了两个量化显著性解释有效性的指标。我们将全局显著性方法应用于皮肤病变诊断，以确定墨水等伪影对模型偏差的影响。