MLVICX：面向胸部X光自监督表示学习的多层次方差-协方差探索
图像与视频处理
2024-03-19 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
自监督学习（SSL）在减少人工标注需求并使深度学习模型可用于医学图像分析任务方面具有潜在价值。通过利用从未标记数据中学习到的表示，自监督模型在需要极少甚至无需微调的任务上表现良好。然而，对于以复杂解剖结构和多样临床状况为特征的医学图像（如胸部X光片），需要能够编码细粒度细节同时保留更广泛上下文信息的表示学习技术。在此背景下，我们提出MLVICX（面向胸部X光自监督表示学习的多层次方差-协方差探索），一种从胸部X光图像中以嵌入形式捕获丰富表示的方法。我们方法的核心是一种新颖的多层次方差与协方差探索策略，该策略使模型能够检测具有诊断意义的模式，同时有效减少冗余。通过增强学习嵌入的方差和协方差，MLVICX通过适应全局和局部上下文细节来促进关键医学信息的保留。我们通过全面的实验展示了MLVICX在推进自监督胸部X光表示学习方面的性能。我们在各种下游任务中观察到的性能提升，突显了所提方法在增强胸部X光嵌入用于精准医学诊断和全面图像分析方面的重要性。对于预训练，我们使用了NIH-Chest X-ray数据集，而对于下游任务，我们使用了NIH-Chest X-ray、Vinbig-CXR、RSNA肺炎和SIIM-ACR气胸数据集。总体而言，我们在各种下游任务中观察到比当前最优自监督学习方法超过3%的性能提升。
引用
@article{arxiv.2403.11504,
title = {MLVICX: Multi-Level Variance-Covariance Exploration for Chest X-ray Self-Supervised Representation Learning},
author = {Azad Singh and Vandan Gorade and Deepak Mishra},
journal= {arXiv preprint arXiv:2403.11504},
year = {2024}
}