Distill-SODA：面向计算病理中无源开集域自适应的自监督视觉 Transformer 蒸馏

开发计算病理模型对于减少全切片图像的人工组织分型、将知识从源域迁移到未标记的偏移目标域以及识别未见类别至关重要。我们通过一举解决上述挑战，即无源开集域自适应，提出了一种实用设定。我们的方法侧重于将预训练的源模型适配到未标记的目标数据集，并涵盖闭集和开集类别。除了处理未知类的语义偏移外，我们的框架还应对协变量偏移，其表现为源和目标组织样本之间颜色外观的变化。我们的方法依赖于从自监督视觉 Transformer（ViT）中蒸馏知识，从鲁棒预训练的 Transformer 模型或组织病理学数据集（包括来自目标域的数据集）获取指导。为此，我们引入了一种新颖的基于风格的对抗数据增强，作为自训练 ViT 的困难正样本，从而产生高度上下文化的嵌入。随后，我们对语义相似的目标图像进行聚类，源模型提供弱伪标签，尽管置信度不确定。为改进此过程，我们提出闭集亲和度分数（CSAS），旨在纠正这些伪标签的置信度水平，并在上下文化嵌入空间中计算加权类原型。我们的方法在三个用于结直肠癌评估的公共组织病理学数据集上确立了自身作为最先进（state-of-the-art）的地位。值得注意的是，我们的自训练方法可与开集检测方法无缝集成，从而在闭集和开集识别任务中均提升性能。