DINO-Mix：基于跨域 CutMix 的基础知识蒸馏用于半监督不平衡医学图像分割
图像与视频处理
2026-02-10 v1 计算机视觉与模式识别
摘要
半监督学习 (SSL) 已成为医学图像分割中的关键范式，缓解稠密标注的巨大成本。然而，现有 SSL 框架根本上是“内向”的，仅在目标数据集内部循环利用信息和偏置。这种设计在类别不平衡下会引发确认偏置的恶性循环，导致对少数类的识别失败。为破解这一系统性问题，我们提出了范式转向至多层次“外向”框架的方案。我们的核心创新是基础知识蒸馏 (FKD)，通过引入预训练的视觉基础模型 DINOv3 作为无偏外部语义教师，超越医学图像的局限性。我们不再盲目信任学生模型的高置信度，而是从 DINOv3 对高语义唯一性的稳健理解中蒸馏知识，提供稳定的跨域监督信号，为少数类学习锚定。为补充这一核心策略，我们在数据层面提出渐进不平衡感知 CutMix (PIC)，创建动态课程，使模型在标注和非标注子集中动态聚焦少数类。该层次化策略构成我们的框架 DINO-Mix，打破偏置恶性循环，在挑战性的半监督不平衡医学图像分割基准数据集 Synapse 和 AMOS 上取得卓越性能。
引用
@article{arxiv.2602.07819,
title = {DINO-Mix: Distilling Foundational Knowledge with Cross-Domain CutMix for Semi-supervised Class-imbalanced Medical Image Segmentation},
author = {Xinyu Liu and Guolei Sun},
journal= {arXiv preprint arXiv:2602.07819},
year = {2026}
}
备注
AAAI 2026 Workshop on Artificial Intelligence with Biased or Scarce Data (Oral)