注意力群等变卷积网络
计算机视觉与模式识别
2020-07-01 v3 机器学习
机器学习
摘要
尽管群卷积网络能够基于对称性模式学习强大的表示,但它们缺乏显式手段来学习这些模式间有意义的关系(例如相对位置与姿态)。本文提出注意力群等变卷积,作为群卷积的一种推广,在卷积过程中施加注意力以突出有意义的对称性组合并抑制不可信、具误导性的组合。我们指出,先前关于视觉注意力的研究可描述为所提框架的特例,并通过实验表明,我们的注意力群等变卷积网络在基准图像数据集上持续优于常规群卷积网络。同时,我们通过等变注意力图的可视化为所学概念提供了可解释性。
引用
@article{arxiv.2002.03830,
title = {Attentive Group Equivariant Convolutional Networks},
author = {David W. Romero and Erik J. Bekkers and Jakub M. Tomczak and Mark Hoogendoorn},
journal= {arXiv preprint arXiv:2002.03830},
year = {2020}
}
备注
Proceedings of the 37th International Conference on Machine Learning (ICML), 2020