基于样条的神网络校准

Kartik Gupta; Amir Rahimi; Thalaiyasingam Ajanthan; Thomas Mensink; Cristian Sminchisescu; Richard Hartley

基于样条的神网络校准

机器学习 2021-12-30 v2 计算机视觉与模式识别机器学习

作者: Kartik Gupta , Amir Rahimi , Thalaiyasingam Ajanthan , Thomas Mensink , Cristian Sminchisescu , Richard Hartley

摘要

在将神经网络用于安全关键应用时，对其校准至关重要，因为下游决策依赖于预测概率。校准误差的度量等同于比较两个经验分布。本工作中，我们受经典Kolmogorov-Smirnov(KS)统计检验启发，提出一种无分箱的校准度量，其主要思想是比较相应的累积概率分布。由此，通过使用样条将经验累积分布近似为可微函数，我们得到一个重校准函数，将网络输出映射为实际的(已校准的)类别指派概率。样条拟合使用留出校准集进行，所得重校准函数在未见的测试集上评估。我们在多个图像分类数据集上将方法与现有校准方法对比，基于样条的重校准方法在KS误差及其他常用校准度量上始终优于现有方法。我们的代码发布于https://github.com/kartikgupta-at-anu/spline-calibration。

关键词

神经网络校准样条 Kolmogorov-Smirnov检验重校准函数图像分类

引用

@article{arxiv.2006.12800,
  title  = {Calibration of Neural Networks using Splines},
  author = {Kartik Gupta and Amir Rahimi and Thalaiyasingam Ajanthan and Thomas Mensink and Cristian Sminchisescu and Richard Hartley},
  journal= {arXiv preprint arXiv:2006.12800},
  year   = {2021}
}

备注

ICLR 2021

基于样条的神网络校准

摘要

关键词

引用

备注

相关论文