TransNuSeg:一种用于细胞核分割的轻量多任务Transformer
图像与视频处理
2023-07-18 v1 计算机视觉与模式识别
摘要
细胞核尺寸微小,然而在实际临床实践中,全局空间信息以及细胞核与背景之间颜色或亮度对比的相关性,已被视为准确细胞核分割的关键组成部分。然而,自动细胞核分割领域由卷积神经网络(CNNs)主导,同时近期盛行的Transformer的潜力尚未被充分探索,而后者在捕获局部-全局相关性方面能力强大。为此,我们首次尝试采用纯Transformer框架进行细胞核分割,称为TransNuSeg。与先前工作不同,我们将这一具挑战性的细胞核分割任务解耦为内在的多任务学习问题,其中采用三解码器结构分别用于细胞核实例、细胞核边缘和聚类边缘分割。为消除先前工作中不同分支的发散预测,引入了一种新颖的自蒸馏损失以显式施加分支间一致性约束。此外,为构建分支间的高相关性并减少参数量,提出了一种高效注意力共享方案,在三解码器间部分共享自注意力头。最后,令牌MLP瓶颈替换了过度参数化的Transformer瓶颈以进一步降低模型复杂度。在包括MoNuSeg在内的两种不同模态数据集上的实验表明,我们的方法能以少30%的参数超越CA2.5-Net等最先进对手2-3%的Dice。总之,TransNuSeg证实了Transformer在细胞核分割场景中的实力,从而可作为实际临床实践的高效解决方案。代码见https://github.com/zhenqi-he/transnuseg。
引用
@article{arxiv.2307.08051,
title = {TransNuSeg: A Lightweight Multi-Task Transformer for Nuclei Segmentation},
author = {Zhenqi He and Mathias Unberath and Jing Ke and Yiqing Shen},
journal= {arXiv preprint arXiv:2307.08051},
year = {2023}
}
备注
Early accepted by MICCAI2023