重新审视数字病理学中视觉基础模型的自动数据整理

视觉基础模型（FMs）正在加速数字病理学算法的发展并转变生物医学研究。这些模型以自监督方式学习表示从真实患者样本的全切片图像（WSIs）中提取的高度异质性图块中的组织病理学特征。这些 FMs 的性能显著受到预训练数据的规模、多样性和平衡性的影响。然而，数据选择主要在 WSI 层面依赖专家知识指导，侧重于疾病分类和组织类型等因素，而很大程度上忽略了图块层面可用的细粒度细节。在本文中，我们研究了图块层面的无监督自动数据整理的潜力，考虑了 3.5 亿个图块。具体而言，我们对预提取的图块嵌入应用层次聚类树，从而能够在预训练 FM 的嵌入空间中均匀地采样平衡数据集。我们进一步发现这些数据集受到规模与平衡性之间的权衡影响，可能损害 FMs 学到的表示质量，并提出有针对性的批量采样策略来缓解这一影响。我们通过在多样化的临床相关下游任务上的改进性能证明了该方法的有效性。