基于快速对抗校准实现深度神经网络的可信预测

为促进AI系统在现实应用决策指导中的广泛接受，部署模型的可靠性至关重要。亦即，预测模型必须具备不确定性感知能力，并对分布内样本以及域偏移下的样本给出良好校准（因而可信）的预测。近期考虑预测不确定性的努力包括针对训练后神经网络的后续处理步骤、贝叶斯神经网络以及集成方法和证据深度学习等替代性非贝叶斯方法。本文中，我们提出一种高效且通用的建模方法，用于在域偏移后获得的样本上得到良好校准的可信概率。我们引入一种结合熵促进损失项与对抗校准损失项的新训练策略，并证明这能为广泛的域漂移带来良好校准且在技术上可信的预测。我们在不同数据模态、大量数据集（含序列数据）、网络架构与扰动策略上对已提出的方法进行了全面评估。我们观察到，我们的建模方法大幅优于现有最优方法，在域漂移下给出良好校准的预测。