局部-全局注意力:一种用于多尺度特征融合的自适应机制
计算机视觉与模式识别
2024-11-15 v1 人工智能
摘要
近年来,注意力机制通过聚焦关键特征信息,显著提升了目标检测的性能。然而,主流方法仍难以有效平衡局部和全局特征。这种不平衡阻碍了它们同时捕捉细粒度细节和更广泛的上下文信息——这两者是实现精准目标检测的两个关键要素。为应对这些挑战,我们提出了一种新颖的注意力机制,称为局部-全局注意力,旨在更好地融合局部和全局上下文特征。具体而言,我们的方法将多尺度卷积与位置编码相结合,使模型能够在关注局部细节的同时兼顾更广泛的全局上下文。此外,我们引入了可学习参数,允许模型根据任务的具体需求动态调整局部和全局注意力的相对重要性,从而在多个尺度上优化特征表示。我们在多个广泛使用的目标检测和分类数据集上全面评估了局部-全局注意力机制。实验结果表明,该方法显著增强了各尺度目标的检测,在多类别和小目标检测任务上表现尤为突出。与现有注意力机制相比,局部-全局注意力在保持计算效率的同时,在多个关键指标上持续优于它们。
引用
@article{arxiv.2411.09604,
title = {Local-Global Attention: An Adaptive Mechanism for Multi-Scale Feature Integration},
author = {Yifan Shao},
journal= {arXiv preprint arXiv:2411.09604},
year = {2024}
}