Info-CELS：信息性显著性图引导的反事实解释
机器学习
2024-10-29 v1 机器学习
摘要
随着对可解释机器学习方法的需求不断增长，越来越需要人类参与以提供对模型决策的信息性解释。这对于在基于人工智能的系统中建立信任和透明度是必不可少的，从而催生了可解释人工智能（XAI）领域。最近，一种新颖的反事实解释模型CELS被提出。CELS为特定实例学习显著性图，并在所学显著性图的引导下生成反事实解释。尽管CELS是首次尝试利用所学显著性图不仅为时间序列分类器做出的决策原因提供直观解释，还探索事后反事实解释，但它在为了确保高邻近性和稀疏性方面存在有效性较低的局限性。在本文中，我们提出了一种建立在CELS基础上的增强方法。虽然原始模型在稀疏性和邻近性方面取得了有希望的结果，但在有效性方面面临局限。我们提出的方法通过移除掩码归一化来解决这一局限性，以提供更具信息性和有效性的反事实解释。通过在来自不同领域的数据集上进行的大量实验，我们证明了我们的方法优于CELS模型，实现了更高的有效性并产生了更具信息性的解释。
引用
@article{arxiv.2410.20539,
title = {Info-CELS: Informative Saliency Map Guided Counterfactual Explanation},
author = {Peiyu Li and Omar Bahri and Pouya Hosseinzadeh and Soukaïna Filali Boubrahimi and Shah Muhammad Hamdi},
journal= {arXiv preprint arXiv:2410.20539},
year = {2024}
}