可解释人工智能的全面分类法:关于方法与概念的调查之调查
机器学习
2023-01-10 v4 人工智能
摘要
与此同时,在可解释人工智能 (XAI) 研究领域内已发展出大量术语、动机、方法与评估准则。随着 XAI 方法数量的大量增长,研究者与从业者都需要一个方法分类法:以把握该主题的广度、比较方法,并基于特定用例上下文所需特征选择合适的 XAI 方法。文献中可找到许多详略与深度各异的 XAI 方法分类法。它们虽常侧重不同,却也呈现诸多重叠之处。本文统一了这些努力,并针对当前研究状态下存在的概念给出了 XAI 方法的完整分类法。在结构化文献分析与元研究中,我们识别并审阅了 50 余篇被引最高且最新的关于 XAI 方法、度量及方法特征的调查。在将其总结为调查之调查后,我们将各文章的术语与概念合并为一个统一的结构化分类法。其中单个概念由总计 50 余种多样的精选示例方法加以阐释,并相应归类。该分类法可作为初学者、研究者和从业者的参考与对 XAI 方法特征与方面的广泛概览。因此,它为面向目标、用例导向且上下文敏感的未来研究提供了基础。
引用
@article{arxiv.2105.07190,
title = {A Comprehensive Taxonomy for Explainable Artificial Intelligence: A Systematic Survey of Surveys on Methods and Concepts},
author = {Gesina Schwalbe and Bettina Finzel},
journal= {arXiv preprint arXiv:2105.07190},
year = {2023}
}
备注
71 pages, 7 figures, 6 tables; published as part of Special Issue on Explainable and Interpretable Machine Learning and Data Mining, in Data Mining and Knowledge Discovery Journal