MFABA：一种更忠实且加速的基于边界的深度神经网络归因方法
计算机视觉与模式识别
2023-12-22 v1 机器学习
摘要
为了更好地理解深度神经网络（DNN）的输出，基于归因的方法已成为模型可解释性的重要途径，它为每个输入维度分配一个分数以指示其对模型结果的重要性。值得注意的是，归因方法利用敏感性和实现不变性的公理来确保归因结果的有效性和可靠性。然而，现有的归因方法在有效解释和高效计算方面仍存在挑战。在这项工作中，我们引入了 MFABA，这是一种遵循公理的归因算法，作为解释 DNN 的新方法。此外，我们为 MFABA 算法提供了理论证明和深入分析，并进行了大规模实验。结果表明其优越性，其速度比最先进的归因算法快 101.5142 倍以上。通过与其他方法对比的统计分析，全面评估了 MFABA 的有效性，完整的实现包已开源，地址为：https://github.com/LMBTough/MFABA
引用
@article{arxiv.2312.13630,
title = {MFABA: A More Faithful and Accelerated Boundary-based Attribution Method for Deep Neural Networks},
author = {Zhiyu Zhu and Huaming Chen and Jiayu Zhang and Xinyi Wang and Zhibo Jin and Minhui Xue and Dongxiao Zhu and Kim-Kwang Raymond Choo},
journal= {arXiv preprint arXiv:2312.13630},
year = {2023}
}
备注
Accepted by The 38th Annual AAAI Conference on Artificial Intelligence (AAAI-24)