SLOVA：基于单标签一对多分类器的不确定性估计
机器学习
2022-06-29 v1
摘要
深度神经网络展现出令人印象深刻的性能，但它们无法可靠地估计其预测置信度，限制了其在高风险领域的适用性。我们表明，应用多标签一对多损失可揭示分类模糊性并降低模型过置信。所引入的 SLOVA（Single Label One-Vs-All，单标签一对多）模型将典型的一对多预测概率重新定义到单标签情形，其中仅有一个类别为正确答案。所提出的分类器仅当单一类别具有高概率且其他概率可忽略时才置信。与典型的 softmax 函数不同，若所有其他类别的概率均较小，SLOVA 自然检测出分布外样本。该模型还使用指数校准进行微调，使我们能够精确地将置信分数与模型准确率对齐。我们在三项任务上验证了我们的方法。首先，我们证明 SLOVA 在分布内校准上与最先进水平具有竞争力。其次，SLOVA 在数据集偏移下表现稳健。最后，我们的方法在分布外样本检测中表现极好。因此，SLOVA 是一种可用于各种需要不确定性建模的应用中的工具。
引用
@article{arxiv.2206.13923,
title = {SLOVA: Uncertainty Estimation Using Single Label One-Vs-All Classifier},
author = {Bartosz Wójcik and Jacek Grela and Marek Śmieja and Krzysztof Misztal and Jacek Tabor},
journal= {arXiv preprint arXiv:2206.13923},
year = {2022}
}