基于可迁移对抗探索的增强解释归因
人工智能
2024-12-30 v1 计算机视觉与模式识别
摘要
深度神经网络的可解释性对于理解各种应用中的模型决策至关重要，包括计算机视觉。AttEXplore++是一个建立在AttEXplore基础上的高级框架，通过融合诸如MIG和GRA等可迁移对抗攻击方法，显著提高了模型解释的准确性和鲁棒性。我们在包括CNN（Inception-v3、ResNet-50、VGG16）和视觉变换器（MaxViT-T、ViT-B/16）在内的五个模型上进行了大量实验，采用ImageNet数据集。我们的方法在AttEXplore和其他多项最先进的可解释性算法之间实现了平均性能提升7.57%和32.62%。使用插入和删除得分作为评估指标，我们表明，对抗迁移性在增强归因结果方面发挥着关键作用。此外，我们探讨了随机性、扰动率、噪声幅度和多样性概率对归因性能的影响，表明AttEXplore++在各种模型下都能提供更稳定可靠的解释。我们在https://anonymous.4open.science/r/ATTEXPLOREP-8435/发布了代码。
引用
@article{arxiv.2412.19523,
title = {Attribution for Enhanced Explanation with Transferable Adversarial eXploration},
author = {Zhiyu Zhu and Jiayu Zhang and Zhibo Jin and Huaming Chen and Jianlong Zhou and Fang Chen},
journal= {arXiv preprint arXiv:2412.19523},
year = {2024}
}