对灵敏度图的一次新探索
机器学习
2024-05-07 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
模型参数随机化检验（MPRT）因其基本评估准则而在可解释人工智能（XAI）社区中受到高度认可：解释应对解释其试图解释的模型的参数具有敏感性。然而，最近的研究对 MPRT 的经验解释提出了若干方法论问题。作为响应，我们提出两种修改原始检验的方法：平滑 MPRT 和高效 MPRT。前者通过抽样减少评估结果中的噪声影响，后者通过重新解释检验——即在完全模型随机化后增加解释复杂度——避免对偏置的相似性测量。我们的实验表明，这些修改提高了指标的可靠性，促进了更可信赖的解释方法部署。
引用
@article{arxiv.2405.02383,
title = {A Fresh Look at Sanity Checks for Saliency Maps},
author = {Anna Hedström and Leander Weber and Sebastian Lapuschkin and Marina Höhne},
journal= {arXiv preprint arXiv:2405.02383},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:2401.06465