面向深度神经网络不确定性校准的测试时增强方法探究
计算机视觉与模式识别
2024-03-19 v2
摘要
随着深度神经网络的兴起，机器学习系统如今已普遍应用于众多现实场景，这催生了对高可靠性模型的需求。此需求要求我们不仅审视此类系统的准确率，亦需关注其预测不确定性。为此，我们提出一种基于测试时增强的新技术（含两种变体，名为M-ATTA与V-ATTA），以改善深度模型在图像分类中的不确定性校准。通过采用自适应加权系统，M/V-ATTA在不影响模型准确率的前提下改善了不确定性校准。我们考虑多种与不确定性校准相关的指标来评估这些技术的性能，证明其鲁棒性。在CIFAR-10、CIFAR-100、航拍图像数据集以及两种分布偏移场景下取得的实证结果表明，所提方法优于若干最先进的（SOTA）事后校准技术。此外，所提方法在分布外样本的预测熵方面亦展现改进。M/V-ATTA代码见：https://github.com/pedrormconde/MV-ATTA
引用
@article{arxiv.2304.05104,
title = {Approaching Test Time Augmentation in the Context of Uncertainty Calibration for Deep Neural Networks},
author = {Pedro Conde and Tiago Barros and Rui L. Lopes and Cristiano Premebida and Urbano J. Nunes},
journal= {arXiv preprint arXiv:2304.05104},
year = {2024}
}
备注
Submitted to IEEE Transactions on Pattern Analysis and Machine Intelligence