神经网络中基于梯度的解释的不确定性量化
机器学习
2025-04-16 v2 人工智能
摘要
解释方法有助于理解模型预测的原因。这些方法越来越多地参与模型调试、性能优化以及洞察模型工作机制。鉴于这些方法如此关键的应用，衡量这些方法生成的解释所关联的不确定性势在必行。本文提出一种流程，通过结合不确定性估计方法和解释方法来确定神经网络的解释不确定性。我们使用该流程为 CIFAR-10、FER+ 和 California Housing 数据集生成解释分布。通过计算这些分布的变异系数，我们评估解释的置信度，并确定使用引导反向传播生成的解释具有较低的不确定性。此外，我们计算改进的像素插入/删除指标以评估生成解释的质量。
引用
@article{arxiv.2403.17224,
title = {Uncertainty Quantification for Gradient-based Explanations in Neural Networks},
author = {Mihir Mulye and Matias Valdenegro-Toro},
journal= {arXiv preprint arXiv:2403.17224},
year = {2025}
}
备注
13 pages, 11 figures, UNCV @ CVPR 2025 Camera ready