利用有损标签不变变换提升分类器置信度
机器学习
2020-11-10 v1
摘要
提供可靠的模型不确定性估计对于自主智能体与人类做出稳健决策至关重要。尽管近期在已训练模型的置信度校准方面取得了显著进展，但在大多数经过校准的模型中仍存在校准不佳的样本。因此，已有多种技术被提出，利用输入的标签不变变换（即输入流形）来改善最坏情况下的置信度校准。然而，基于流形的置信度校准技术通常难以扩展，且在应用于具有大输入空间（如 ImageNet）的模型时需要昂贵的重新训练。本文提出递归有损标签不变校准（ReCal）技术，该技术利用输入的标签不变变换来诱导判别信息的损失，从而递归地对输入进行分组（并校准）——无需模型重新训练。我们表明，ReCal 在多个数据集上优于其他校准方法，尤其是在 ImageNet 等大规模数据集上。
引用
@article{arxiv.2011.04182,
title = {Improving Classifier Confidence using Lossy Label-Invariant Transformations},
author = {Sooyong Jang and Insup Lee and James Weimer},
journal= {arXiv preprint arXiv:2011.04182},
year = {2020}
}