这看起来更像那个：通过原型相关性传播增强自解释模型
机器学习
2021-08-30 v1
摘要
当前的机器学习模型在解决各种现实世界问题中已展现出高效率。然而，其黑箱特性对理解及追溯底层决策策略提出了重大挑战。作为补救，许多事后解释与自解释方法被开发出来以解释模型行为。这些方法还使得识别模型可学习为类相关特征的伪影成为可能。在本工作中，我们针对自解释网络 ProtoPNet 在一系列伪影存在下的表现提供了详细的案例研究。据此，我们指出了 ProtoPNet 的主要缺陷，尤其是其粗糙且空间上不精确的解释。我们通过引入原型相关性传播（PRP）——一种生成更精确的模型感知解释的崭新方法——来解决这些局限。此外，为获得干净数据集，我们提出使用多视图聚类策略，借助 PRP 解释来分离伪影图像，从而抑制模型中潜在的伪影学习。
引用
@article{arxiv.2108.12204,
title = {This looks more like that: Enhancing Self-Explaining Models by Prototypical Relevance Propagation},
author = {Srishti Gautam and Marina M. -C. Höhne and Stine Hansen and Robert Jenssen and Michael Kampffmeyer},
journal= {arXiv preprint arXiv:2108.12204},
year = {2021}
}