面向病理学基础模型的大规模训练
计算机视觉与模式识别
2024-04-24 v1 机器学习
摘要
受深度学习方法近期进展，特别是现代自监督学习算法发展的推动，构建医学图像基础模型(FMs)的兴趣和努力日益增加。在这项工作中，我们提出了针对大规模病理成像数据的可扩展训练流程，并对构建病理学FMs的各种超参数选择和训练技术进行了全面分析。我们发布并公开了第一批病理学FMs（https://github.com/kaiko-ai/towards_large_pathology_fms），这些模型在开放获取的TCGA全切片图像（一种常用的病理图像集合）上训练。实验评估表明，我们的模型在各种补丁级下游任务上达到了最先进的性能，从乳腺癌亚型分类到结直肠细胞核分割。最后，为了统一该领域使用的评估方法并简化未来不同FMs的比较，我们提出了一个开源框架（https://github.com/kaiko-ai/eva），旨在对病理学FMs在各种下游任务上进行一致评估。
引用
@article{arxiv.2404.15217,
title = {Towards Large-Scale Training of Pathology Foundation Models},
author = {kaiko. ai and Nanne Aben and Edwin D. de Jong and Ioannis Gatopoulos and Nicolas Känzig and Mikhail Karasikov and Axel Lagré and Roman Moser and Joost van Doorn and Fei Tang},
journal= {arXiv preprint arXiv:2404.15217},
year = {2024}
}