无监督温度缩放：一种深度网络的无监督后处理校准方法
计算机视觉与模式识别
2019-06-11 v3 机器学习
摘要
深度学习的优异性能毋庸置疑，其在广泛任务上取得了令人印象深刻的成果。然而，这些模型的输出置信度通常校准不良，这对于那些决策置信度对提供信任与可靠性至关重要的应用（例如自动驾驶或医学诊断）可能是一个问题。对于在最后一层使用 softmax 的模型，温度缩放（TS）是一种最先进的校准方法，具有较低的时间和内存复杂度以及已被证实的有效性。TS 依赖于一个 T 参数来重新缩放并校准 softmax 层的值，其参数值由带标签的数据集计算而得。我们提出了一种无监督温度缩放（UTS）方法，它不依赖于带标签样本来校准模型，这使得例如可以利用一部分测试样本在进入推理模式之前校准预训练模型。我们为 UTS 提供了理论依据，并在多种深度模型和数据集上评估了其有效性。我们还展示了 UTS 在皮肤病变检测上的校准结果，该问题中良好校准的输出可对准确决策发挥重要作用。
引用
@article{arxiv.1905.00174,
title = {Unsupervised Temperature Scaling: An Unsupervised Post-Processing Calibration Method of Deep Networks},
author = {Azadeh Sadat Mozafari and Hugo Siqueira Gomes and Wilson Leão and Christian Gagné},
journal= {arXiv preprint arXiv:1905.00174},
year = {2019}
}
备注
arXiv admin note: text overlap with arXiv:1810.11586