基于随机平滑的像素级认证解释
机器学习
2025-06-19 v1 人工智能
计算机视觉与模式识别
摘要
后置归因方法旨在通过突出影响输入像素来解释深度学习预测。然而，这些解释高度不稳健：小幅不可感知的输入扰动会显著改变归因图，同时保持相同的预测。这种脆弱性削弱了其可信度，迫切需要对像素级归因得分提供严格的鲁棒性保证。我们引入首个保证像素级鲁棒性的认证框架，适用于任何黑盒归因方法。通过稀疏化和平滑化归因图，我们将任务重新表述为分割问题，并对每个像素的重要性针对 有界扰动进行认证。我们进一步提出了三个评估指标来衡量认证鲁棒性、局部分辨和忠实度。对12种归因方法在5个 ImageNet 模型上的广泛评估显示，认证后的归因在鲁棒性、可解释性和忠实性方面均表现出色，使其能够可靠地用于下游任务。我们的代码地址为 https://github.com/AlaaAnani/certified-attributions。
引用
@article{arxiv.2506.15499,
title = {Pixel-level Certified Explanations via Randomized Smoothing},
author = {Alaa Anani and Tobias Lorenz and Mario Fritz and Bernt Schiele},
journal= {arXiv preprint arXiv:2506.15499},
year = {2025}
}