用于肺结节分类的 3D 轴向注意力
图像与视频处理
2021-06-02 v3 计算机视觉与模式识别
机器学习
摘要
目的：近年来，基于 Non-Local 的方法已成功应用于肺结节分类。然而，这些方法对低分辨率特征图仅提供 2D 注意力或有限的 3D 注意力。此外，由于完整的 3D 注意力计算成本高昂且需要大型数据集（这可能无法获取），它们仍然依赖于诸如卷积等便捷的局部滤波器。方法：我们提出使用 3D Axial-Attention，它所需的计算能力仅为常规 Non-Local 网络（即自注意力）的一小部分。与常规 Non-Local 网络不同，3D Axial-Attention 网络将注意力操作分别应用于每个轴。此外，我们通过提议向共享嵌入添加 3D 位置编码，解决了 Non-Local 网络的位置不变性问题。结果：我们在 442 个良性结节和 406 个恶性结节上验证了所提出的方法，这些结节是从公开的 LIDC-IDRI 数据集中提取的，实验采用了严格的设置，仅使用由至少三位放射科医生标注的结节。我们的结果表明，3D Axial-Attention 模型在包括 AUC 和准确率在内的所有评估指标上均取得了 SOTA 性能。结论：所提出的模型提供了完整的 3D 注意力，使得 3D 体积空间中的每个元素（即像素）都能有效地关注结节中的所有其他元素。因此，3D Axial-Attention 网络可用于所有层，而无需局部滤波器。实验结果表明了完整 3D 注意力对肺结节分类的重要性。
引用
@article{arxiv.2012.14117,
title = {3D Axial-Attention for Lung Nodule Classification},
author = {Mundher Al-Shabi and Kelvin Shak and Maxine Tan},
journal= {arXiv preprint arXiv:2012.14117},
year = {2021}
}