用于零样本学习的隐式与显式注意力机制
计算机视觉与模式识别
2021-10-05 v1
摘要
大多数现有的零样本学习(ZSL)方法聚焦于学习图像表示与类属性之间的兼容性函数。少数其他方法专注于结合局部与全局特征学习图像表示。然而,现有方法仍未能解决对可见类的偏置问题。在本文中,我们提出隐式与显式注意力机制,以解决 ZSL 模型中存在的偏置问题。我们以自监督图像角度旋转任务形式化隐式注意力机制,该任务聚焦于有助于解决该任务的特定图像特征。显式注意力机制结合考虑了通过 Vision Transformer 模型的多头自注意力机制,其在训练阶段学习将图像特征映射到语义空间。我们在三个流行基准上进行了综合实验:AWA2、CUB 和 SUN。我们提出的注意力机制的性能已证明其有效性,并在全部三个数据集上取得了最先进的调和均值。
引用
@article{arxiv.2110.00860,
title = {Implicit and Explicit Attention for Zero-Shot Learning},
author = {Faisal Alamri and Anjan Dutta},
journal= {arXiv preprint arXiv:2110.00860},
year = {2021}
}
备注
GCPR 2021