通过对比学习实现一致的解释
计算机视觉与模式识别
2022-04-11 v2
摘要
事后解释方法，例如 Grad-CAM，使人能够检查导致特定网络决策的空间区域。然而，研究表明此类解释并非总与人类先验一致，例如跨图像变换的一致性。给定一种解释算法（如 Grad-CAM），我们引入一种新颖的训练方法来训练模型以产生更一致的的解释。由于为期望的模型解释获取真值并非定义良好的任务，我们采用对比自监督学习的思想，并将其应用于模型的解释而非其嵌入。我们展示我们的方法——对比 Grad-CAM 一致性（CGC）——产生的 Grad-CAM 解释热力图在与人类标注更一致的同时仍达到可比的分类精度。此外，我们的方法充当正则化器，并在有限数据、细粒度分类设定下提升精度。另外，由于我们的方法不依赖标注，它允许将无标签数据纳入训练，从而实现模型更好的泛化。我们的代码可在此获取：https://github.com/UCDvision/CGC
引用
@article{arxiv.2110.00527,
title = {Consistent Explanations by Contrastive Learning},
author = {Vipin Pillai and Soroush Abbasi Koohpayegani and Ashley Ouligian and Dennis Fong and Hamed Pirsiavash},
journal= {arXiv preprint arXiv:2110.00527},
year = {2022}
}
备注
To be published in IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2022