PreMix:基于非对比性预训练和特征混合的标签高效多实例学习
计算机视觉与模式识别
2025-07-25 v3
摘要
多实例学习(MIL)已成为弱监督 whole slide image(WSI)分类的强大框架,使无需详细切片级注释即可实现切片级预测。尽管取得了显著成果,但当前MIL方法的一个关键局限在于未充分利用预训练以增强MIL聚合器。大多数现有方法会随机初始化聚合器并从头训练,使得性能高度依赖标记WSI的数量,忽略了临床环境中常见的未标记WSI的丰富性。为此,我们提出了PreMix框架,利用经过增强的Barlow Twins非对比性预训练方法,结合Slide Mixing方法生成额外的正负样本对,增强特征学习,尤其在标记WSI数量有限的情况下效果显著。进一步采用Mixup和Manifold Mixup进行微调,可有效处理巨像素WSI的多样化尺寸。实验结果表明,将PreMix作为可插拔模块集成到HIPT中,可在各种WSI训练规模和数据集上实现约4.7%的F1分数提升。这些发现凸显了其在有限标记数据条件下推动WSI分类以及其在现实病理实践中的适用性。代码已公开于https://github.com/bryanwong17/PreMix
引用
@article{arxiv.2408.01162,
title = {PreMix: Label-Efficient Multiple Instance Learning via Non-Contrastive Pre-training and Feature Mixing},
author = {Bryan Wong and Mun Yong Yi},
journal= {arXiv preprint arXiv:2408.01162},
year = {2025}
}
备注
Under review