用基于边界的标签平滑校准分割网络
计算机视觉与模式识别
2024-02-01 v2
摘要
尽管深度神经网络推动了视觉识别任务不可否认的进展,但近期证据表明这些模型校准不良,导致过度自信的预测。训练期间最小化交叉熵损失的标准做法促使预测的 softmax 概率匹配独热标签分配。然而,这导致正确类别的预 softmax 激活显著大于其余激活,加剧了误校准问题。分类文献近期的观察表明,嵌入隐式或显式最大化预测熵的损失函数可取得最先进的校准性能。尽管有这些发现,这些损失在校准医学图像分割网络这一相关任务中的影响仍未被探索。在本工作中,我们提供了对当前最先进校准损失的统一约束优化视角。具体而言,这些损失可视为对 logit 距离施加等式约束的线性惩罚(或拉格朗日项)的近似。这指出了此类底层等式约束的重要局限:其产生的梯度不断推向非信息性解,可能在基于梯度的优化中阻碍模型在判别性能与校准之间达到最佳折衷。根据我们的观察,我们提出了一种基于不等式约束的简单且灵活的推广,其对 logit 距离施加可控边界。在多个公开医学图像分割基准上的综合实验表明,我们的方法在这些任务上就网络校准设立了新的最先进结果,同时判别性能也得到改善。
引用
@article{arxiv.2209.09641,
title = {Calibrating Segmentation Networks with Margin-based Label Smoothing},
author = {Balamurali Murugesan and Bingyuan Liu and Adrian Galdran and Ismail Ben Ayed and Jose Dolz},
journal= {arXiv preprint arXiv:2209.09641},
year = {2024}
}
备注
MedIA 2023. The code is available at https://github.com/Bala93/MarginLoss. arXiv admin note: substantial text overlap with arXiv:2111.15430