以混合监督教我分割：自信的学生成为大师
计算机视觉与模式识别
2020-12-16 v1
摘要
深度分割神经网络需要带有像素级分割的大规模训练数据集，而这类数据在实践中获取成本高昂。混合监督可缓解此困难：一小部分数据包含完整的像素级标注，其余数据监督较弱，例如仅标注少数像素。本工作中，我们提出一种双分支架构，其中上分支（教师）接收强标注，而下分支（学生）由有限监督驱动并受上分支引导。除在标注像素上采用标准交叉熵外，我们的新公式整合了两个重要项：(i) 定义于弱监督图像上的香农熵损失，鼓励下分支产生自信的学生预测；以及 (ii) 库尔贝克-莱布勒（KL）散度，将强监督分支生成的预测知识迁移至弱监督分支，并引导熵（学生置信度）项以避免平凡解。非常有趣的是，我们表明熵与 KL 散度之间的协同作用带来了性能的显著提升。此外，我们讨论了香农熵最小化与标准伪掩码生成之间的有趣联系，并主张前者应优于后者以利用未标注像素的信息。通过一系列定量与定性实验，我们展示了所提公式在 MRI 图像中左心室心内膜分割上的有效性。我们证明，在混合监督框架下，我们的方法显著优于其他处理语义分割的策略。更有趣的是，并与近期分类中的观察一致，我们表明以减弱监督训练的分支大幅优于教师分支。
引用
@article{arxiv.2012.08051,
title = {Teach me to segment with mixed supervision: Confident students become masters},
author = {Jose Dolz and Christian Desrosiers and Ismail Ben Ayed},
journal= {arXiv preprint arXiv:2012.08051},
year = {2020}
}