中文

CTformer:用于低剂量CT去噪的无卷积Token2Token空洞视觉Transformer

图像与视频处理 2023-03-29 v1 计算机视觉与模式识别

摘要

低剂量计算机断层扫描(LDCT)去噪是CT研究中的一个重要问题。与正常剂量CT(NDCT)相比,LDCT图像受到严重的噪声与伪影影响。近来许多研究表明,视觉Transformer相比卷积神经网络(CNNs)具有更优的特征表示能力。然而,与CNNs不同,视觉Transformer在LDCT去噪中的潜力迄今鲜有探索。为填补这一空白,我们提出了一种用于低剂量CT去噪的无卷积Token2Token空洞视觉Transformer。CTformer采用更强大的token重排以涵盖局部上下文信息,从而避免使用卷积。它还对特征图进行空洞化与平移以捕获更长程的相互作用。我们通过静态检查其内部注意力图模式并以解释图动态追踪分层注意力流来解释CTformer。此外,引入了一种重叠推理机制,以有效消除基于编码器-解码器的去噪模型常见的边界伪影。在Mayo LDCT数据集上的实验结果表明,CTformer以较低的计算开销优于最先进的去噪方法。

关键词

引用

@article{arxiv.2202.13517,
  title  = {CTformer: Convolution-free Token2Token Dilated Vision Transformer for Low-dose CT Denoising},
  author = {Dayang Wang and Fenglei Fan and Zhan Wu and Rui Liu and Fei Wang and Hengyong Yu},
  journal= {arXiv preprint arXiv:2202.13517},
  year   = {2023}
}

备注

11 pages, 14 figures