注意力特征融合
计算机视觉与模式识别
2020-11-10 v2
摘要
特征融合，即来自不同层或分支的特征的组合，是现代网络架构中无处不在的部分。它常通过简单操作实现，如求和或拼接，但这未必是最佳选择。本工作中，我们提出一种统一且通用的方案，即注意力特征融合，适用于大多数常见场景，包括由短与长跳跃连接引发的特征融合以及 Inception 层内的融合。为更好地融合语义与尺度不一致的特征，我们提出多尺度通道注意力模块，解决了在不同尺度下融合特征时出现的问题。我们还证明特征图的初始整合可能成为瓶颈，而该问题可通过增加另一级注意力缓解，我们称之为迭代注意力特征融合。在层数或参数量更少的情况下，我们的模型在 CIFAR-100 与 ImageNet 数据集上均优于 SOTA 网络，这表明相比直接融合，更复杂的特征融合注意力机制具有持续产生更优结果的巨大潜力。我们的代码与训练模型已在线提供。
引用
@article{arxiv.2009.14082,
title = {Attentional Feature Fusion},
author = {Yimian Dai and Fabian Gieseke and Stefan Oehmcke and Yiquan Wu and Kobus Barnard},
journal= {arXiv preprint arXiv:2009.14082},
year = {2020}
}
备注
Accepted by WACV 2021