面向医学视觉像素级预训练的向量对比学习
计算机视觉与模式识别
2025-06-27 v1
摘要
对比学习（CL）已成为基础模型中自监督预训练（SSP）的基石，然而，将 CL 扩展至对医学视觉至关重要的像素级表示仍是一个开放问题。标准 CL 将 SSP 表述为二元优化问题（二元 CL），其中对特征分散的过度追求会导致过度分散问题，破坏像素级特征相关性，从而扰乱类内分布。我们的向量 CL 将 CL 重新表述为向量回归问题，通过对位移向量进行回归建模特征距离，实现了像素级预训练中分散度的量化。为实现这一新范式，我们提出了向量回归中的对比（COVER）框架。COVER 建立了可扩展的基于向量的自学习，强制实施从向量回归到距离建模的一致优化流程，并利用向量金字塔架构进行粒度自适应，从而在 SSP 中保持像素级特征相关性。跨越 2 个维度和 4 种模态的 8 项任务的广泛实验表明，COVER 显著改善了像素级 SSP，推动了可泛化的医学视觉基础模型的发展。
引用
@article{arxiv.2506.20850,
title = {Vector Contrastive Learning For Pixel-Wise Pretraining In Medical Vision},
author = {Yuting He and Shuo Li},
journal= {arXiv preprint arXiv:2506.20850},
year = {2025}
}
备注
Accepted by ICCV 2025