深度神经网络的在线黑盒置信度估计
计算机视觉与模式识别
2023-03-10 v1 人工智能
机器学习
摘要
自动驾驶(AD)与高级驾驶辅助系统(ADAS)日益利用深度神经网络(DNN)以提升感知或规划能力。然而,当推理时的数据分布偏离训练数据分布时,DNN 表现得相当脆弱。这在部分未知环境(如 ADAS 场景)中部署时构成挑战。同时,DNN 的标准置信度即便在分类可靠性下降时仍保持较高水平。这是有问题的,因为后续的运控算法会将看似可信的预测视为可靠,尽管其可能严重错误。为缓解该问题,需要实时可行的置信度估计,使其更好地与 DNN 分类的实际可靠性一致。此外,为实现外部开发组件对整个系统的同质化集成,黑盒置信度估计亦不可或缺。本文探讨该用例并引入邻域置信度(NHC),用于估计任意分类 DNN 的置信度。该度量仅需 top-1 类输出,无需访问梯度、训练数据集或留出验证数据集,故可用于黑盒系统。在不同数据分布(包括微小的域内分布偏移、域外数据或对抗攻击)上的评估表明,在低数据 regime 下,NHC 的表现优于或与可比较的在线白盒置信度估计方法相当,而后者正是实时可行 AD/ADAS 所需的。
引用
@article{arxiv.2302.13578,
title = {Online Black-Box Confidence Estimation of Deep Neural Networks},
author = {Fabian Woitschek and Georg Schneider},
journal= {arXiv preprint arXiv:2302.13578},
year = {2023}
}