Jaccard 度量损失：利用软标签优化 Jaccard 指数
计算机视觉与模式识别
2024-03-21 v5 人工智能
机器学习
摘要
交并比（IoU）损失是直接优化 Jaccard 指数的替代损失。在语义分割任务中，将 IoU 损失作为损失函数的一部分相比单独优化如交叉熵损失之类的逐像素损失已展现出更优性能。然而，我们确认这些损失缺乏支持标签平滑、知识蒸馏和半监督学习等关键训练技术的灵活性，主要因其无法处理软标签。为此，我们引入 Jaccard 度量损失（JMLs），其在硬标签标准设置下与软 Jaccard 损失一致，但完全兼容软标签。我们将 JMLs 应用于软标签的三个突出用例：标签平滑、知识蒸馏和半监督学习，并展示其提升模型精度与校准的潜力。我们的实验在 4 个语义分割数据集（Cityscapes、PASCAL VOC、ADE20K、DeepGlobe Land）和 13 种架构（包括经典 CNN 与近期视觉 transformer）上显示出相对于交叉熵损失的一致提升。值得注意的是，我们直接的方法显著优于最先进的知识蒸馏与半监督学习方法。代码见 \href{https://github.com/zifuwanggg/JDTLosses}{https://github.com/zifuwanggg/JDTLosses}。
引用
@article{arxiv.2302.05666,
title = {Jaccard Metric Losses: Optimizing the Jaccard Index with Soft Labels},
author = {Zifu Wang and Xuefei Ning and Matthew B. Blaschko},
journal= {arXiv preprint arXiv:2302.05666},
year = {2024}
}
备注
NeurIPS 2023