利用医疗数据的结构提升表征学习
计算机视觉与模式识别
2025-07-25 v3 机器学习
摘要
构建可泛化的医疗 AI 系统需要数据高效且领域感知的预训练策略。不同于互联网规模的语料库,临床数据集如 MIMIC-CXR 图像数量有限且标注稀缺,但通过多视角成像展现丰富的内部结构。我们提出一种自监督框架,利用医学数据集的内在结构。具体而言,我们将对胸片 X 光(前后视图)作为天然正负样本对,学习从稀疏图像块重建每个视图的同时对齐其潜在嵌入。该方法无需文本监督,即可获得信息丰富的表征。我们在 MIMIC-CXR 上进行评估,显示优于监督目标和不利用结构训练的基线。本工作为数据结构化且稀缺的特定领域预训练提供了轻量级、模态无关的蓝图。
引用
@article{arxiv.2507.02987,
title = {Leveraging the Structure of Medical Data for Improved Representation Learning},
author = {Andrea Agostini and Sonia Laguna and Alain Ryser and Samuel Ruiperez-Campillo and Moritz Vandenhirtz and Nicolas Deperrois and Farhad Nooralahzadeh and Michael Krauthammer and Thomas M. Sutter and Julia E. Vogt},
journal= {arXiv preprint arXiv:2507.02987},
year = {2025}
}