论 Dice 损失的梯度及其模仿方式
计算机视觉与模式识别
2023-07-13 v2 图像与视频处理
摘要
在过去几年中,在全监督语义分割背景下,若干损失函数——如交叉熵和 dice——已成为监督神经网络的事实标准。Dice 损失是一个有趣的案例,它源自流行的 Dice 系数的松弛;而 Dice 系数是医学影像应用中主要评价指标之一。在本文中,我们首先从理论上研究 dice 损失的梯度,表明其具体为带非常小动态范围的真实标签的加权负值。这使得我们在本文第二部分能够通过将网络输出与真实标签的负值进行简单逐元素相乘来模仿 dice 损失的监督。这一相当令人惊讶的结果揭示了 dice 损失在梯度下降过程中所执行的实际监督。这有助于实践者理解并解释结果,同时为研究人员设计新损失提供指导。
引用
@article{arxiv.2304.04319,
title = {On the dice loss gradient and the ways to mimic it},
author = {Hoel Kervadec and Marleen de Bruijne},
journal= {arXiv preprint arXiv:2304.04319},
year = {2023}
}