关注抽象视觉推理
机器学习
2019-11-15 v1 机器学习
摘要
注意力机制已在大范围应用中提升了深度学习模型的性能，从语音理解到程序归纳。然而，尽管心理学实验表明注意力在视觉推理中起着关键作用，注意力机制的全部潜力迄今尚未被探索用于解决图像数据上的抽象认知任务。在这项工作中，我们提出了一种基于自注意力与关系推理的混合网络架构。我们将这一新模型称为注意力关系网络（Attention Relation Network, ARNe）。ARNe结合了近期提出的Transformer与Wild Relation Network（WReN）的特征。我们在用于抽象视觉推理的程序生成矩阵（Procedurally Generated Matrices, PGMs）数据集上测试了ARNe。ARNe在此任务上以11.28个百分点超越WReN模型。对象间的关系概念被高效学习，仅需要35%的训练样本即可超越所报告基线模型的准确率。我们提出的混合模型，代表了使用自注意力学习抽象关系的一种替代方案，并证明了Transformer网络同样非常适用于抽象视觉推理。
引用
@article{arxiv.1911.05990,
title = {Attention on Abstract Visual Reasoning},
author = {Lukas Hahne and Timo Lüddecke and Florentin Wörgötter and David Kappel},
journal= {arXiv preprint arXiv:1911.05990},
year = {2019}
}