学习注意力机制
计算机视觉与模式识别
2018-05-01 v2 人工智能
摘要
我们提出了一种端到端可训练的注意力模块，用于为图像分类构建的卷积神经网络（CNN）架构。该模块以二维特征向量图作为输入，这些图构成了输入图像在 CNN 流水线不同阶段的的中间表示，并为每个特征图输出一个二维分数矩阵。标准 CNN 架构通过引入该模块进行了修改，并在如下约束下进行训练：由分数矩阵参数化的中间二维特征向量的凸组合必须单独用于分类。由于被激励去放大相关特征并抑制无关或误导性特征，这些分数由此承担了注意力值的作用。我们的实验观察清楚地证明了这一效果：学习到的注意力图整齐地突出了感兴趣区域，同时抑制了背景杂波。因此，所提出的功能能够引导标准 CNN 架构完成图像分类任务，在 6 个未见过的基准数据集上展现出优越的泛化能力。当二值化后，我们的注意力图在弱监督分割任务上优于其他基于 CNN 的注意力图、传统显著性图以及顶级目标提议，正如在 Object Discovery 数据集上所展示的那样。我们还展示了对抗攻击的快速梯度符号方法下改进的鲁棒性。
引用
@article{arxiv.1804.02391,
title = {Learn To Pay Attention},
author = {Saumya Jetley and Nicholas A. Lord and Namhoon Lee and Philip H. S. Torr},
journal= {arXiv preprint arXiv:1804.02391},
year = {2018}
}
备注
International Conference on Learning Representations 2018