GroupNL：面向云与设备的低资源鲁棒 CNN 设计
计算机视觉与模式识别
2026-01-15 v2 人工智能
分布式、并行与集群计算
摘要
将卷积神经网络（CNN）模型以云辅助的方式部署到无处不在的物联网（IoT）设备上，为用户提供多种高质量服务已成为主流。大多数现有研究通过减少卷积（Conv）参数和浮点运算（FLOPs）来加速模型云端训练/设备端推理。然而，它们通常采用两种或更多轻量级操作（如深度可分离卷积、1×1 轻量卷积）来替代一个 Conv 操作，即使参数和 FLOPs 更少，仍可能影响模型的加速效果。为此，我们提出了分组非线性变换生成方法（GroupNL），利用数据无关、超参数固定且轻量的非线性变换函数（NLFs），通过分组按需生成多样化的特征图，从而在降低资源消耗的同时提升 CNN 的鲁棒性。首先，在 GroupNL Conv 层 中，基于种子卷积操作生成一小部分特征图，即种子特征图。然后，我们将种子特征图划分为若干组，每组使用不同的 NLFs，通过张量操作算子和轻量非线性处理生成所需数量的多样化特征图，而无需额外的卷积操作。我们进一步引入了稀疏 GroupNL Conv，通过合理设计输入通道数与种子特征图之间的种子卷积组来加速。在基准数据集和设备端资源测量上的实验表明，GroupNL Conv 是基线模型中卷积层的出色替代方案。具体而言，在 Icons-50 数据集上，GroupNL-ResNet-18 的准确率比 ResNet-18 高 2.86%；在 ImageNet-C 数据集上，GroupNL-EfficientNet-ES 的准确率比 EfficientNet-ES 高约 1.1%。
引用
@article{arxiv.2506.12335,
title = {GroupNL: Low-Resource and Robust CNN Design over Cloud and Device},
author = {Chuntao Ding and Jianhang Xie and Junna Zhang and Salman Raza and Shangguang Wang and Jiannong Cao},
journal= {arXiv preprint arXiv:2506.12335},
year = {2026}
}
备注
IEEE Transactions on Mobile Computing, accepted manuscript