聚合局部显著性图谱以实现半全局可解释图像分类
计算机视觉与模式识别
2025-07-01 v1 人工智能
机器学习
摘要
深度学习主导图像分类任务，但如何得出预测结果仍是个挑战。大量研究聚焦于对单个预测的局部解释，例如显著性图可视化特定像素对模型预测的影响。然而，审阅大量解释以识别重复模式不可行，而全局方法往往过于简化，错失重要的局部行为。为此，我们提出了分段属性表（SATs），一种将局部显著性解释汇总为（半）全局洞察的方法。SATs利用图像分段（例如Chihuahua中的“眼睛”）并借助显著性图量化其影响。这表明模型在不同实例中所依赖的概念，并揭示了对背景或水印的依赖——即便在分布外测试性能几乎不变时亦如此。SATs能够解释任何可生成显著性图的分类器，利用提供命名分段的分割图。SATs弥合了过于简化的全局摘要与过于细节的局部解释之间的鸿沟，为分析和调试图像分类器提供了实用工具。
引用
@article{arxiv.2506.23247,
title = {Aggregating Local Saliency Maps for Semi-Global Explainable Image Classification},
author = {James Hinns and David Martens},
journal= {arXiv preprint arXiv:2506.23247},
year = {2025}
}