用于语义分割的通道化轴向注意力——在空间注意力中考虑通道关系
计算机视觉与模式识别
2021-09-14 v5
摘要
空间和通道注意力分别建模空间和通道维度上的语义相互依赖关系，近年来已广泛用于语义分割。然而，分开计算空间和通道注意力有时会导致错误，尤其对于那些困难情形。本文中，我们提出通道化轴向注意力（CAA），以可忽略的计算开销将通道注意力与空间注意力无缝集成到单一操作中。具体而言，我们将空间注意力的点积运算拆分为两部分，并在其间插入通道关系，从而允许在每个空间位置上独立优化的通道注意力。我们进一步开发了分组向量化，使我们的模型能够以极小的内存消耗运行而不降低运行速度。在包括Cityscapes、PASCAL Context和COCO-Stuff在内的多个基准数据集上进行的对比实验表明，我们的CAA在所有测试数据集上优于许多最先进的分割模型（包括双重注意力）。
引用
@article{arxiv.2101.07434,
title = {Channelized Axial Attention for Semantic Segmentation -- Considering Channel Relation within Spatial Attention for Semantic Segmentation},
author = {Ye Huang and Di Kang and Wenjing Jia and Xiangjian He and Liu Liu},
journal= {arXiv preprint arXiv:2101.07434},
year = {2021}
}
备注
Paper presentation revised. Add more experiments