基于梯度的不确定性归因用于可解释贝叶斯深度学习
机器学习
2023-04-12 v1 计算机视觉与模式识别
信息论
math.IT
机器学习
摘要
深度学习模型的预测易受数据扰动、对抗攻击和分布外输入的影响。为构建可信 AI 系统，准确量化预测不确定性至关重要。当前工作集中于提升不确定性量化的准确性与效率，但仍有必要识别不确定性来源并采取措施缓解其对预测的影响。因此，我们提出开发可解释且可操作的贝叶斯深度学习方法，不仅进行准确的不确定性量化，还能解释不确定性、识别其来源并提出缓解不确定性影响的策略。具体而言，我们引入一种基于梯度的不确定性归因方法，以识别输入中对预测不确定性贡献最大的问题区域。与现有方法相比，所提 UA-Backprop 具有相当的准确性、更宽松的假设和更高的效率。此外，我们提出一种利用归因结果作为注意力来进一步提升模型性能的不确定性缓解策略。我们进行了定性和定量评估以证明所提方法的有效性。
引用
@article{arxiv.2304.04824,
title = {Gradient-based Uncertainty Attribution for Explainable Bayesian Deep Learning},
author = {Hanjing Wang and Dhiraj Joshi and Shiqiang Wang and Qiang Ji},
journal= {arXiv preprint arXiv:2304.04824},
year = {2023}
}
备注
Accepted to CVPR 2023