通过概念学习事前可解释模型的框架
机器学习
2021-12-02 v2 计算机视觉与模式识别
摘要
自解释深度模型旨在训练期间隐式地学习潜在基于概念的解释，这消除了对任何事后解释生成技术的需求。在这项工作中，我们提出了这样一个模型，它在任何基础网络之上附加了一个解释生成模块，并联合训练整个模块，该模块显示出高预测性能，并生成了在概念方面有意义的解释。我们的训练策略适用于无监督概念学习，与基线方法相比，其参数空间需求要小得多。我们提出的模型还提供了对概念利用自监督的机制，以提取更好的解释。然而，在完全概念监督下，与最近提出的基于概念的可解释模型相比，我们取得了最佳的预测性能。我们报告了使用我们方法的定性和定量结果，这些结果显示出比最近提出的基于概念的可解释性方法更好的性能。我们使用两个没有真值概念的数据集（即CIFAR10、ImageNet）和两个具有真值概念的数据集（即AwA2、CUB-200）报告了详尽的结果，以展示我们的方法在这两种情况下的有效性。据我们所知，我们是第一个在ImageNet等大规模数据集上展示结果的事前解释生成方法。
引用
@article{arxiv.2108.11761,
title = {A Framework for Learning Ante-hoc Explainable Models via Concepts},
author = {Anirban Sarkar and Deepak Vijaykeerthy and Anindya Sarkar and Vineeth N Balasubramanian},
journal= {arXiv preprint arXiv:2108.11761},
year = {2021}
}
备注
16 pages, 15 figures