FAN：聚焦注意力网络
机器学习
2019-10-07 v3 计算机视觉与模式识别
机器学习
摘要
注意力网络通过在构成元素间通过加权函数强调关系，在视觉与语言任务中展现出前景。此类元素可以是区域提议网络输出的图像区域，或是通过词嵌入表示的句子中的单词。迄今为止，注意力权重的的学习仅由特定任务损失函数的最小化驱动。我们引入一种学习注意力权重以更好地强调实体间信息性成对关系的方法。关键组件是一种新颖的质心交叉熵损失，其可与特定任务损失联合应用。我们进一步引入聚焦注意力骨干网络以针对通用任务学习这些注意力权重。我们证明聚焦监督导致跨有意义实体的改进注意力分布，并通过聚合来自它们的特征增强表示。我们的聚焦注意力模块在关系提议任务中实现了关系恢复的最先进（SOTA）性能，并提升了多种视觉与语言任务的性能。
引用
@article{arxiv.1905.11498,
title = {FAN: Focused Attention Networks},
author = {Chu Wang and Babak Samari and Vladimir Kim and Siddhartha Chaudhuri and Kaleem Siddiqi},
journal= {arXiv preprint arXiv:1905.11498},
year = {2019}
}