NeoNeXt：基于分块矩阵乘法的新型神经网络算子与架构
计算机视觉与模式识别
2024-03-19 v1
摘要
当今的大多数计算机视觉架构都建立在众所周知的基础操作之上：全连接层、卷积和多头自注意力块。在本文中，我们提出了一种新型基础操作——NeoCell，它学习矩阵模式并与输入数据执行分块矩阵乘法。该算子的主要优点是：(1) 无需 im2col 等操作即可简单实现；(2) 计算复杂度低（尤其是对于大型矩阵）；(3) 上采样/下采样实现简单灵活。我们在 ImageNet-1K 分类任务上验证了基于此操作的 NeoNeXt 系列模型，并表明它们取得了具有竞争力的质量。
引用
@article{arxiv.2403.11251,
title = {NeoNeXt: Novel neural network operator and architecture based on the patch-wise matrix multiplications},
author = {Vladimir Korviakov and Denis Koposov},
journal= {arXiv preprint arXiv:2403.11251},
year = {2024}
}