中文

基于自注意力与自监督学习的标签噪声容忍医学图像分类

计算机视觉与模式识别 2023-06-19 v1 人工智能

摘要

深度神经网络(DNNs)已广泛应用于医学图像分类并取得了卓越的分类性能。这些成就严重依赖于大规模精确标注的训练数据。然而,由于标注过程严重依赖标注者的专业知识和经验,医学图像标注中不可避免地引入了标签噪声。同时,DNNs 易受噪声标签过拟合的影响,导致模型性能下降。因此,在本工作中,我们创新性地设计了噪声鲁棒训练方法来减轻医学图像分类中噪声标签的不良影响。具体而言,我们将对比学习和组内注意力混合策略引入原始监督学习。面向特征提取器的对比学习有助于增强 DNNs 的视觉表征。组内注意力混合模块构建组并为组内样本分配自注意力权重,随后通过加权混合操作插值大量噪声抑制样本。我们在合成和真实世界噪声医学数据集上于不同噪声水平下进行了对比实验。严谨的实验验证了我们带有对比学习和注意力混合的噪声鲁棒方法能有效处理标签噪声,并优于当前最优(state-of-the-art)方法。消融研究也表明两个组件均有助于提升模型性能。所提方法展示了其抑制标签噪声的能力,并具有一定面向真实世界临床应用的潜力。

关键词

引用

@article{arxiv.2306.09718,
  title  = {Label-noise-tolerant medical image classification via self-attention and self-supervised learning},
  author = {Hongyang Jiang and Mengdi Gao and Yan Hu and Qiushi Ren and Zhaoheng Xie and Jiang Liu},
  journal= {arXiv preprint arXiv:2306.09718},
  year   = {2023}
}

备注

11pages, 8 figures