超越ViT令牌：面向细胞级密集预测的掩码扩散预训练卷积病理基础模型
计算机视觉与模式识别
2026-05-12 v1
摘要
细胞级密集预测是计算病理学的核心，但由于精细的组织学结构、强烈的域偏移和昂贵的密集标注，仍然具有挑战性。现有的基于ViT的病理基础模型依赖于分块令牌化，这可能会破坏空间连续性并削弱细胞级预测所需的局部形态细节。为了解决这个问题，我们提出了掩码扩散卷积基础模型，称为ConvNeXt掩码扩散（CMD），这是一种用于密集病理表示学习的自监督卷积生成式预训练框架。CMD使用全卷积的ConvNeXt-UNet骨干网络，在像素空间中进行掩码扩散预训练，并通过自适应归一化整合冻结的病理基础模型特征。实验结果表明，CMD在多个病理密集预测任务中，不仅持续优于现有的基于ViT的病理基础模型，甚至超越了最先进的端到端分割方法，同时仅微调少量任务特定参数。在标注有限的设置下，这种优势尤为明显，CMD展现出更强的鲁棒性和泛化能力。我们的发现表明，纯卷积架构也可以作为具有竞争力的细胞级密集预测病理基础模型，在当前ViT主导的范式中实现领先性能，并为细粒度病理理解提供了一种可扩展、高性能且能更好保留组织学结构先验的解决方案。
引用
@article{arxiv.2605.08276,
title = {Beyond ViT Tokens: Masked-Diffusion Pretrained Convolutional Pathology Foundation Model for Cell-Level Dense Prediction},
author = {Weiming Chen and Xitong Ling and Zhenyang Cai and Xidong Wang and Jiawen Li and Tian Guan and Benyou Wang and Yonghong He},
journal= {arXiv preprint arXiv:2605.08276},
year = {2026}
}