BROW：基于自蒸馏的全切片图像更优特征提取模型
计算机视觉与模式识别
2023-09-18 v1
摘要
全切片图像（WSI）处理正成为各种疾病标准临床诊断关键组成部分之一。然而，由于 WSI 的独特属性——超高分辨率，将传统图像处理算法直接应用于 WSI 面临某些障碍。大多数 WSI 相关任务的性能依赖于提取 WSI 块特征表示的骨干网络的有效性。因此，我们提出了 BROW，一个用于提取 WSI 更优特征表示的基础模型，它可以在无需或仅需轻微微调的情况下方便地适配下游任务。该模型采用 transformer 架构，使用自蒸馏框架进行预训练。为提高模型的鲁棒性，采用了如块洗牌等技术。此外，该模型利用 WSI 的独特属性，使用 WSI 的多尺度金字塔来引入额外的全局视图，从而进一步提升其性能。我们使用私有和公共数据构成了一个大型预训练数据集，包含超过 11000 张切片、超过 1.8 亿个提取块，涵盖与各种器官和组织相关的 WSI。为评估 \ourmodel 的有效性，我们运行了广泛的下游任务，包括切片级分型、块级分类和细胞核实例分割。结果证实了所提模型的效能、鲁棒性和良好的泛化能力。这证实了它作为 WSI 特征提取基础模型的潜力，并突出了其在 WSI 处理中应用的光明前景。
引用
@article{arxiv.2309.08259,
title = {BROW: Better featuRes fOr Whole slide image based on self-distillation},
author = {Yuanfeng Wu and Shaojie Li and Zhiqiang Du and Wentao Zhu},
journal= {arXiv preprint arXiv:2309.08259},
year = {2023}
}
备注
14 pages including reference part, 6 figures