集成梯度中用于低延迟可解释人工智能的非均匀插值
机器学习
2023-02-23 v1 人工智能
硬件体系结构
图像与视频处理
摘要
可提供深度神经网络(DNN)模型内部工作机制洞察的可解释人工智能(XAI)方法激增。集成梯度(IG)是一种流行的XAI算法,它根据输入特征对模型输出的贡献为其分配相关性分数。然而,它需要多次通过模型进行前向与反向传播。因此,与单次前向推理相比,生成解释存在显著的计算开销,阻碍了实时XAI。本工作通过硬件感知的算法优化加速IG来解决上述问题。我们提出了一种新颖的非均匀插值方案来计算IG归因分数,以替代基准的均匀插值。我们的算法显著减少了所需的总插值步数,且不会对收敛产生不利影响。在ImageNet数据集上使用预训练的InceptionV3模型进行的实验表明,在同等收敛(iso-convergence)下,GPU系统上实现了2.6-3.6倍的性能加速。这包括由计算非均匀插值步长的前处理阶段引入的最小0.2-3.2%延迟开销。
引用
@article{arxiv.2302.11107,
title = {Non-Uniform Interpolation in Integrated Gradients for Low-Latency Explainable-AI},
author = {Ashwin Bhat and Arijit Raychowdhury},
journal= {arXiv preprint arXiv:2302.11107},
year = {2023}
}