用于图像描述的神经注意力机制：杰出方法综述
计算机视觉与模式识别
2021-12-01 v1
摘要
图像描述是指自动生成尽可能准确描述输入图像的句子的任务。目前最成功的自动生成图像描述技术采用了注意力深度学习模型。带有注意力机制的深度学习模型在设计上存在多种变体。在本综述中，我们对与图像描述的注意力深度学习模型相关的文献进行了回顾。我们并未对以往所有关于深度图像描述模型的工作进行全面综述，而是解释了深度学习模型中用于图像描述任务的各种类型的注意力机制。用于图像描述的最成功的深度学习模型遵循编码器-解码器架构，尽管这些模型在使用注意力机制的方式上有所不同。通过对不同用于图像描述的注意力深度模型的性能结果进行分析，我们旨在寻找深度图像描述模型中最成功的注意力机制类型。软注意力、自底向上注意力和多头注意力是当前最先进的图像描述注意力深度学习模型中广泛使用的注意力机制类型。目前，多头注意力与自底向上注意力的变体取得了最佳结果。
引用
@article{arxiv.2111.15015,
title = {Neural Attention for Image Captioning: Review of Outstanding Methods},
author = {Zanyar Zohourianshahzadi and Jugal K. Kalita},
journal= {arXiv preprint arXiv:2111.15015},
year = {2021}
}
备注
This is the accepted version, which we are allowed to publish on arxiv based on Springer Nature policies. For the published version please refer to Springer Nature Artificial Intelligence Review Journal. DOI number is attached. For Citation refer to AIRE journal using DOI link