用于深度神经网络鲁棒校准的自适应温度缩放
机器学习
2022-08-02 v1
摘要
本文研究现代神经网络的事后校准问题，该问题近年来备受关注。针对该任务已提出多种复杂度各异的校准方法，但对于这些方法应具备多大的表达能力尚无共识。我们聚焦于置信度缩放任务，具体而言聚焦于推广温度缩放（Temperature Scaling）的事后方法，称之为自适应温度缩放族。我们分析可改善校准的表达函数并提出可解释方法。我们表明，当数据充足时，神经网络等复杂模型能取得更好性能，但在数据量有限时容易失效，而这在诸如医学诊断等某些事后校准应用中是常见情形。我们研究在理想条件下表达方法所学到的函数，并设计出更简单但对这些表现良好函数具有强归纳偏置的方法。具体地，我们提出基于熵的温度缩放（Entropy-based Temperature Scaling），一种根据其熵对预测置信度进行缩放的简单方法。结果表明，与其他方法相比我们的方法取得了最先进（SOTA）性能，且不同于复杂模型，它对数据稀缺具有鲁棒性。此外，我们提出的模型能够对校准过程进行更深入的解释。
引用
@article{arxiv.2208.00461,
title = {Adaptive Temperature Scaling for Robust Calibration of Deep Neural Networks},
author = {Sergio A. Balanya and Juan Maroñas and Daniel Ramos},
journal= {arXiv preprint arXiv:2208.00461},
year = {2022}
}
备注
21 pages, journal article, 5 figures