可解释 AI 中基于梯度的特征归因：技术综述
人工智能
2024-03-18 v1
摘要
黑盒 AI 模型的激增促使人们需要解释其内部机制并证明其可靠性，尤其是在医疗保健和自动驾驶等高风险应用中。由于缺乏对可解释 AI（XAI）的严格定义，已经发展了大量与可解释性、可解释性和透明度相关的研究，从各种角度解释和分析模型。因此，面对详尽的论文列表，全面概述 XAI 研究的各个方面变得具有挑战性。考虑到神经网络在 AI 研究中的普及性，我们将焦点缩小到 XAI 研究的一个特定领域：基于梯度的解释，它可以直接应用于神经网络模型。在本综述中，我们系统地探讨了迄今为止基于梯度的解释方法，并引入了一种新的分类法，将它们分为四个不同的类别。然后，我们按时间顺序介绍了技术细节的精髓，并强调了算法的演变。接下来，我们介绍了人类和定量评估以衡量算法性能。更重要的是，我们展示了 XAI 的一般挑战和基于梯度解释的具体挑战。我们希望本综述能帮助研究人员了解最先进的进展及其相应的缺点，从而激发他们在未来工作中解决这些问题的兴趣。
引用
@article{arxiv.2403.10415,
title = {Gradient based Feature Attribution in Explainable AI: A Technical Review},
author = {Yongjie Wang and Tong Zhang and Xu Guo and Zhiqi Shen},
journal= {arXiv preprint arXiv:2403.10415},
year = {2024}
}