事后部分原型网络

事后可解释性方法（如Grad-CAM）很受欢迎，因为它们不影响训练模型的性能。然而，它们主要揭示模型在给定输入时“看”的位置，未能解释模型“寻找”什么（例如，将鸟图像分类为斯科特黄鹂时什么重要？）。现有的部分原型网络利用部分原型（例如，特征性的斯科特黄鹂的翅膀和头部）来回答“哪里”和“什么”，但通常其准确性不如黑盒对应物。因此，一个自然的问题是：能否构建一个以事后方式回答“哪里”和“什么”的网络，以保证模型的性能？为此，我们提出了第一个事后部分原型网络，通过将训练模型的分类头分解为一组可解释的部分原型。具体来说，我们提出了一种无监督的原型发现和精炼策略，以获得能够精确重建分类头且可解释的原型。除了保证性能外，我们定性地展示了我们的网络提供了更忠实的解释，并且定量上比先前的部分原型网络产生了更好的部分原型。