解耦深度学习以实现可解释图像识别
计算机视觉与模式识别
2022-11-22 v3
摘要
神经网络的可解释性近来受到广泛关注。以往基于原型的的可解释网络在推理和解释过程中均涉及原型激活，需要对原型使用特定的可解释结构，从而导致网络在获得可解释性的同时准确性下降。为此，提出解耦原型网络（DProtoNet）以避免该问题。该新模型包含编码器、推理和解释模块。在编码器模块中，提出无约束特征掩码以生成具有表现力的特征和原型。在推理模块中，引入多图像原型学习方法以更新原型，使网络能学习到泛化原型。最后，在解释模块中，提出多动态掩码（MDM）解码器来解释神经网络，其利用原始图像与掩码图像在网络检测节点上的一致激活生成热力图。该方法通过避免利用原型激活来解释网络决策，解耦了基于原型的网络的推理与解释模块，从而同时提升神经网络的准确性与可解释性。在多个公开通用及医学数据集上的测试结果表明，相较以往方法，我们的方法在准确性上提升 5%，并具备最先进的可解释性。
引用
@article{arxiv.2210.08336,
title = {Decoupling Deep Learning for Interpretable Image Recognition},
author = {Yitao Peng and Yihang Liu and Longzhen Yang and Lianghua He},
journal= {arXiv preprint arXiv:2210.08336},
year = {2022}
}