AiATrack：用于 Transformer 视觉跟踪的注意力中的注意力
计算机视觉与模式识别
2022-07-25 v2
摘要
Transformer 跟踪器近来取得了令人印象深刻的进展，其中注意力机制起到了重要作用。然而，注意力机制中独立的相关性计算可能导致含噪且模糊的注意力权重，从而阻碍性能的进一步提升。为解决此问题，我们提出一种注意力中的注意力 (AiA) 模块，它通过寻求所有相关性向量间的共识来增强恰当的相关性并抑制错误的相关性。我们的 AiA 模块可便捷地应用于自注意力块和交叉注意力块，以促进视觉跟踪中的特征聚合与信息传播。此外，我们通过引入高效的特征复用和目标-背景嵌入以充分利用时间参考，提出了一种精简的 Transformer 跟踪框架，称为 AiATrack。实验表明，我们的跟踪器在六个跟踪基准上取得了最先进的性能，同时以实时速度运行。
引用
@article{arxiv.2207.09603,
title = {AiATrack: Attention in Attention for Transformer Visual Tracking},
author = {Shenyuan Gao and Chunluan Zhou and Chao Ma and Xinggang Wang and Junsong Yuan},
journal= {arXiv preprint arXiv:2207.09603},
year = {2022}
}
备注
Accepted by ECCV 2022. Code and models are publicly available at https://github.com/Little-Podi/AiATrack