基于反事实梯度的神经网络预测信任量化
计算机视觉与模式识别
2024-05-24 v1 人工智能
机器学习
摘要
深度神经网络在机器学习中的广泛采用要求对深奥的信任进行客观量化。在本文中，我们提出了GradTrust，一种用于大规模神经网络推理的分类信任度量。所提出的方法利用反事实梯度的方差，即如果标签不同则网络参数所需的改变。我们表明，GradTrust在检测ImageNet验证数据集上50000张图像的误预测率方面优于现有技术。根据网络不同，GradTrust检测到真实标签不正确或模糊，或类别共现的图像。我们将GradTrust扩展到Kinetics-400数据集上的视频动作识别。我们展示了在ImageNet上预训练的14种架构和在Kinetics-400上预训练的5种架构的结果。我们观察到：(i) 简单方法如负对数似然和边缘分类器在误预测率方面优于最先进的不确定性和分布外检测技术，以及(ii) 所提出的GradTrust在所考虑的38种实验模态中的37种中排名前二。代码可在https://github.com/olivesgatech/GradTrust获取。
引用
@article{arxiv.2405.13758,
title = {Counterfactual Gradients-based Quantification of Prediction Trust in Neural Networks},
author = {Mohit Prabhushankar and Ghassan AlRegib},
journal= {arXiv preprint arXiv:2405.13758},
year = {2024}
}
备注
2024 IEEE 7th International Conference on Multimedia Information Processing and Retrieval (MIPR)