RES:一种引导视觉解释的鲁棒框架
计算机视觉与模式识别
2022-06-28 v1
摘要
尽管现代深度神经网络(DNNs)的解释技术快速发展,其重点多在于“如何生成解释”,但审视解释本身质量(如“解释是否准确”)以及提升解释质量(如“当解释不准确时如何调整模型以生成更准确解释”)的进阶研究问题仍相对未被充分探索。为引导模型获得更好解释,解释监督技术——在模型解释上添加监督信号——已开始展现出提升DNNs泛化能力与内在可解释性的良好效果。然而,由于若干固有挑战,对解释的监督研究(尤其在以显著图表示的视觉应用中)尚处早期:1)人类解释标注边界的不准确性;2)人类解释标注区域的不完整性;3)人类标注与模型解释图之间数据分布的不一致性。为应对这些挑战,我们提出一种通用RES框架,通过构建新颖目标函数处理人类标注的不准确边界、不完整区域与不一致分布,并在模型泛化性上给出理论依据,以引导视觉解释。在两个真实图像数据集上的大量实验证明了该框架在增强解释合理性与骨干DNNs模型性能方面的有效性。
引用
@article{arxiv.2206.13413,
title = {RES: A Robust Framework for Guiding Visual Explanation},
author = {Yuyang Gao and Tong Steven Sun and Guangji Bai and Siyi Gu and Sungsoo Ray Hong and Liang Zhao},
journal= {arXiv preprint arXiv:2206.13413},
year = {2022}
}
备注
Published in KDD 2022