面向数字皮肤病学的可扩展基础模型
计算机视觉与模式识别
2024-11-11 v1 人工智能
摘要
数字皮肤病学领域对准确且公平的 AI 模型日益增长的需求面临一项重大挑战：缺乏多样化的高质量标注数据。在本工作中，我们研究了面向皮肤病学的领域特定基础模型在应对这一挑战方面的潜力。我们利用自监督学习（SSL）技术，在来自公共和私有收藏的超过 240,000 张皮肤病学图像数据集上预训练模型。我们的研究考虑了多种 SSL 方法，并将生成的基础模型与 ImageNet 预训练的领域无关模型以及 MONET 等最先进模型在 12 项下游任务上进行了对比。与先前研究不同，我们强调开发更适合资源受限临床环境的小型模型，从而便于适应广泛的使用场景。结果表明，本工作中预训练的模型不仅在性能上优于通用模型，而且在临床相关诊断任务上接近比其大 50 倍的模型的性能。为了促进这一方向的进一步研究，我们公开发布了训练代码和基础模型，这些模型可使皮肤病学领域的临床医生受益。
引用
@article{arxiv.2411.05514,
title = {Towards Scalable Foundation Models for Digital Dermatology},
author = {Fabian Gröger and Philippe Gottfrois and Ludovic Amruthalingam and Alvaro Gonzalez-Jimenez and Simone Lionetti and Luis R. Soenksen-Martinez and Alexander A. Navarini and Marc Pouly},
journal= {arXiv preprint arXiv:2411.05514},
year = {2024}
}
备注
Findings paper presented at Machine Learning for Health (ML4H) symposium 2024, December 15-16, 2024, Vancouver, Canada, 11 pages