通过展开与征服归因引导更好地可视化网络决策依据

揭示深度神经网络（DNN）的透明度已被广泛研究，以描述网络内部结构的决策机制。在本文中，我们提出了一种新颖的事后框架，即展开与征服归因引导（UCAG），该框架通过结合模型置信度对输入特征进行空间上的细致审查，从而增强网络决策的可解释性。针对缺乏详细描述的现象，UCAG 顺序遵循图像切片的置信度，从而提供丰富且清晰的解释。因此，通过保留辅助输入特征的详细描述（这些特征通常被主要的有意义区域所淹没），可以增强解释的表示能力。我们进行了大量评估以验证在多项指标下的性能：i) 删除与插入，ii)（基于能量的）指向游戏，以及 iii) 正负密度图。包括定性比较在内的实验结果表明，我们的方法凭借清晰详细的解释特性和适用性，优于现有方法。