Virchow2：在病理学中规模化自监督混合放大模型
计算机视觉与模式识别
2024-11-07 v3
摘要
基础模型正在为计算病理学应用快速开发。然而，对于下游性能而言，数据规模和多样性、模型大小以及训练算法哪些因素最为重要，仍是一个开放问题。本文提出针对病理学的算法修改，并展示了在数据规模和模型大小方面超越前述研究的成果。我们引入了三个新模型：Virchow2，一个拥有6.32亿参数的视觉变换器；Virchow2G，一个拥有19亿参数的视觉变换器；以及Virchow2G Mini，一个为2200万参数的Virchow2G蒸馏模型。每个模型都使用310万张组织病理全切片图像进行训练，涵盖多样组织、来源机构和染色方法。我们在12项切片级别任务上实现了领先的性能，优于顶尖竞争模型。我们的结果表明，数据多样性和领域特定方法可以超过仅规模化参数数量的模型，但总体而言，性能受益于领域特定方法、数据规模和模型规模的组合。
引用
@article{arxiv.2408.00738,
title = {Virchow2: Scaling Self-Supervised Mixed Magnification Models in Pathology},
author = {Eric Zimmermann and Eugene Vorontsov and Julian Viret and Adam Casson and Michal Zelechowski and George Shaikovski and Neil Tenenholtz and James Hall and David Klimstra and Razik Yousfi and Thomas Fuchs and Nicolo Fusi and Siqi Liu and Kristen Severson},
journal= {arXiv preprint arXiv:2408.00738},
year = {2024}
}