无需重新训练的原型自解释模型
机器学习
2024-06-06 v2 人工智能
摘要
可解释人工智能（XAI）已沿两个不同的研究方向展开：一方面是解释预训练黑盒模型预测的事后方法，另一方面是直接训练以在提供预测的同时给出解释的自解释模型（SEM）。虽然后者在安全关键场景中更受青睐，但事后方法因其简单性和无需重新训练即可解释基础模型的能力，迄今为止获得了大部分关注。相反，当前的 SEM 需要复杂的架构和高度正则化的损失函数，因此需要特定且成本高昂的训练。为了解决这一缺点并促进 SEM 的更广泛使用，我们提出了一种简单而高效的通用方法，称为 KMEx（K-Means 解释器），它可以将任何现有的预训练模型转换为原型 SEM。KMEx 背后的动机是通过多样化且可信的基于类原型的解释来增强基于深度学习的决策透明度，而无需重新训练基础模型。我们通过广泛的定性评估，将 KMEx 获得的模型与最先进的 SEM 进行比较，以突出每种模型的优缺点，进一步为更可靠和客观的 SEM 评估铺平道路（代码可在 https://github.com/SrishtiGautam/KMEx 获取）。
引用
@article{arxiv.2312.07822,
title = {Prototypical Self-Explainable Models Without Re-training},
author = {Srishti Gautam and Ahcene Boubekki and Marina M. C. Höhne and Michael C. Kampffmeyer},
journal= {arXiv preprint arXiv:2312.07822},
year = {2024}
}