具有变换等变解释的自解释模型 SITE
计算机视觉与模式识别
2021-11-10 v1 机器学习
摘要
本文中，我们提出一种具有变换等变解释的自解释模型 SITE。我们关注几何变换解释对鲁棒性与自一致性。除变换等变外，作为自解释模型，SITE 具有与基准黑盒分类器相当的表达能力，同时能够给出高质量、忠实且鲁棒的解释。值得注意的是，尽管双线性上采样近似被应用于大多数 CNN 可视化方法中，它只是一种粗略近似，只能以热图（而非逐像素）形式提供解释。此类解释能否直接对应于输入空间（如 MNIST 实验所示）仍是一个开放问题。此外，我们的模型考虑了平移与旋转变换。在未来工作中，我们将探索在缩放与畸变等更复杂变换下的鲁棒解释。另外，我们阐明 SITE 并不限于几何变换（我们在计算机视觉领域中所用的），未来将在其他领域探索 SITE。
引用
@article{arxiv.2111.04927,
title = {Self-Interpretable Model with TransformationEquivariant Interpretation},
author = {Yipei Wang and Xiaoqian Wang},
journal= {arXiv preprint arXiv:2111.04927},
year = {2021}
}
备注
Accepted by NeurIPS 2021