MRL：利用注意力与卷积学习混合
计算机视觉与模式识别
2022-08-31 v1 机器学习
摘要
本文提出一种面向视觉领域的神经架构模块，名为区域与局部混合（MRL），旨在有效且高效地混合所给输入特征。我们将输入特征混合任务分为区域尺度和局部尺度的混合。为实现高效混合，我们利用自注意力提供的全域感受野进行区域尺度混合，并利用限于局部尺度的卷积核进行局部尺度混合。更具体地，我们提出的方法在定义区域内将区域特征与局部特征相混合，随后进行由区域特征增强的局部尺度特征混合。实验表明，这种自注意力与卷积的混合带来了更高的容量、泛化性（正确的归纳偏置）和效率。在相似网络设置下，MRL在分类、目标检测和分割任务中优于或持平于同类方法。我们还展示了基于MRL的网络架构在H&E组织学数据集上取得了最先进性能。我们在Kumar、CoNSep和CPM-17数据集上分别取得了0.843、0.855和0.892的DICE，同时通过引入组卷积等层以改善特定数据集的泛化性，凸显了MRL框架所提供的通用性。
引用
@article{arxiv.2208.13975,
title = {MRL: Learning to Mix with Attention and Convolutions},
author = {Shlok Mohta and Hisahiro Suganuma and Yoshiki Tanaka},
journal= {arXiv preprint arXiv:2208.13975},
year = {2022}
}