图谱的自然语言反事实解释
人工智能
2025-01-28 v2 计算与语言
摘要
可解释人工智能 (XAI) 作为解开（深度）机器学习模型内部逻辑隐蔽性的关键研究领域而崛起。在文献中提出的各种XAI技术中，反事实解释脱颖而出，被视为最具前景的method之一。然而，这些“假设若如何”解释常常复杂且技术性，难以让非专家理解，更广泛地难以被人类解读。为弥合这一鸿沟，本文利用开源大型语言模型 (LLM) 的强大能力，当提示给定由基于图的模型的最新解释器生成的有效反事实实例时，生成自然语言解释。实验在多个图数据集和反事实解释器上表明，我们的方法能够有效地产生准确的反事实实例的自然语言表述，关键性能指标已予以证明。
引用
@article{arxiv.2410.09295,
title = {Natural Language Counterfactual Explanations for Graphs Using Large Language Models},
author = {Flavio Giorgi and Cesare Campagnano and Fabrizio Silvestri and Gabriele Tolomei},
journal= {arXiv preprint arXiv:2410.09295},
year = {2025}
}