SparseContrast：面向医学影像的高效准确稀疏对比学习
计算机视觉与模式识别
2026-05-05 v1
摘要
我们提出SparseContrast，一个新框架，将动态稀疏注意力与对比学习融合，用于医学影像，尤其聚焦于低数据环境下的胸部X光疾病检测。传统对比学习方法依赖密集注意力机制，计算昂贵且常处理医学图像中冗余区域。为此，SparseContrast引入稀疏注意力机制， selectively聚焦于诊断相关区域，显著降低计算负担而不损害准确性。该框架通过紧凑的显著性预测器引导注意力图裁剪，同时优化稀疏性与特征质量。该方法在训练和推理中将延迟降低最高可达40%，同时通过聚焦临床重要区域提升诊断准确性。此外，该方法对 backbone 架构选择不敏感，可同时适用于卷积和变换器模型。实验表明，SparseContrast 在疾病识别任务中，以更高的效率实现了与当前方法相当或更好的性能。该框架为在资源有限的医学影像场景中实现对比学习提供了实用方案，计算效率与诊断准确性至关重要。
引用
@article{arxiv.2605.00887,
title = {SparseContrast: Dynamic Sparse Attention for Efficient and Accurate Contrastive Learning in Medical Imaging},
author = {Paarth Prasad and Ruchika Malhotra},
journal= {arXiv preprint arXiv:2605.00887},
year = {2026}
}