多实例学习模型能否迁移?
计算机视觉与模式识别
2025-06-12 v2
摘要
多实例学习(MIL)是计算病理学(CPath)中的基石方法,用于从千兆像素组织图像生成具有临床意义的切片级嵌入表示。然而,MIL 常常在规模小、监督弱的临床数据集上表现不佳。与自然语言处理和传统计算机视觉等领域广泛使用迁移学习来应对数据稀缺不同,MIL 模型的可迁移性仍了解甚少。在本研究中,我们通过评估 11 个模型在 21 个预训练任务上的表现,系统性地评估了预训练 MIL 模型在形态学和分子亚型预测方面的迁移学习能力。结果表明,预训练的 MIL 模型即使在不同于目标任务器官的数据上训练,也始终优于从头训练的模型。此外,在泛癌数据集上进行预训练能够在器官和任务之间实现强泛化能力,其表现优于切片基础模型,同时使用了显著更少的预训练数据。这些发现凸显了 MIL 模型的鲁棒适应性,并展示了利用迁移学习提升 CPath 性能的益处。最后,我们提供了一个资源,用于标准化 MIL 模型的实现以及在热门 CPath 任务上收集预训练模型权重,地址为 https://github.com/mahmoodlab/MIL-Lab
引用
@article{arxiv.2506.09022,
title = {Do Multiple Instance Learning Models Transfer?},
author = {Daniel Shao and Richard J. Chen and Andrew H. Song and Joel Runevic and Ming Y. Lu and Tong Ding and Faisal Mahmood},
journal= {arXiv preprint arXiv:2506.09022},
year = {2025}
}
备注
ICML 2025 (Spotlight). 20 pages, 8 figures