UniConvNet：在保持渐近高斯分布的同时为任意规模卷积网络扩展有效感受野

具有大有效感受野（ERF）的卷积神经网络（ConvNets）仍处于早期阶段，已展现出有前景的有效性，但受到高参数量和FLOPs成本以及有效感受野渐近高斯分布（AGD）被破坏的限制。本文提出了一个替代范式：与其仅仅采用极大的有效感受野，不如通过适当组合较小的卷积核（如$7\times{7}$、$9\times{9}$、$11\times{11}$）来扩展有效感受野，同时保持其渐近高斯分布，这样更有效且高效。本文引入了一个三层感受野聚合器，并从感受野的角度设计了一个层算子作为基本算子。通过所提出模块的堆叠，有效感受野可以扩展到现有大核卷积网络的水平，同时保持有效感受野的渐近高斯分布。利用这些设计，我们为任意规模的卷积网络提出了一个通用模型，称为UniConvNet。在ImageNet-1K、COCO2017和ADE20K上的大量实验表明，在具有可比吞吐量的情况下，UniConvNet在轻量级和大规模模型的各种视觉识别任务中均优于最先进的CNN和ViT。令人惊讶的是，UniConvNet-T以$30M$参数量和$5.1G$ FLOPs实现了$84.2\%$的ImageNet top-1准确率。UniConvNet-XL在大数据和大模型上也显示出有竞争力的可扩展性，在ImageNet上获得了$88.4\%$的top-1准确率。代码和模型已在https://github.com/ai-paperwithcode/UniConvNet上公开。