SCENE：使用软反事实评估可解释人工智能技术
人工智能
2024-08-19 v2 计算与语言
摘要
可解释人工智能（XAI）在增强人工智能模型的透明度和问责性方面发挥着关键作用，尤其是在自然语言处理（NLP）任务中。然而，流行的 XAI 方法如 LIME 和 SHAP 被发现不稳定且可能具有误导性，这突显了标准化评估方法的必要性。本文介绍了 SCENE（自然语言可解释性的软反事实评估），这是一种新颖的评估方法，利用大型语言模型（LLMs）以零样本方式生成软反事实解释。通过专注于基于词元的替换，SCENE 创建了上下文适当且语义上有意义的软反事实，无需大量微调。SCENE 采用 Validitysoft 和 Csoft 指标来评估模型无关的 XAI 方法在文本分类任务中的有效性。应用于 CNN、RNN 和 Transformer 架构，SCENE 为各种 XAI 技术的优势和局限性提供了宝贵的见解。
引用
@article{arxiv.2408.04575,
title = {SCENE: Evaluating Explainable AI Techniques Using Soft Counterfactuals},
author = {Haoran Zheng and Utku Pamuksuz},
journal= {arXiv preprint arXiv:2408.04575},
year = {2024}
}