用于高分辨率遥感图像语义分割的多阶段注意力 ResU-Net
计算机视觉与模式识别
2021-09-21 v2
摘要
注意力机制能够精炼所提取的特征图并提升深度网络的分类性能，已成为计算机视觉与自然语言处理中的一项关键技术。然而，点积注意力机制的内存与计算代价随输入的时空尺寸呈二次增长。这种增长在很大程度上阻碍了注意力机制在具有大规模输入的应用场景中的使用。在本快报中，我们提出一种线性注意力机制（LAM）以解决该问题，其在计算效率上近似等价于点积注意力。这样的设计使得注意力机制与深度网络之间的结合更加灵活与通用。基于所提出的 LAM，我们重构了原始 U-Net 中的跳跃连接，并设计了一种多阶段注意力 ResU-Net（MAResU-Net）用于高分辨率遥感图像的语义分割。在 Vaihingen 数据集上进行的实验证明了我们的 MAResU-Net 的有效性与高效性。开源代码见 https://github.com/lironui/Multistage-Attention-ResU-Net。
引用
@article{arxiv.2011.14302,
title = {Multi-stage Attention ResU-Net for Semantic Segmentation of Fine-Resolution Remote Sensing Images},
author = {Rui Li and Shunyi Zheng and Chenxi Duan and Jianlin Su and Ce Zhang},
journal= {arXiv preprint arXiv:2011.14302},
year = {2021}
}
备注
arXiv admin note: substantial text overlap with arXiv:2007.14902, arXiv:2009.02130