面向物联网设备的鲁棒CNN参数高效微调方法LoRA-C

针对资源受限的物联网(IoT)设备，利用局部数据对预训练的卷积神经网络(CNN)模型进行高效微调，对于提供给用户高质�服务至关重要。低秩适应(LoRA)微调因其简单、高效且不增加额外推理负担而广受行业和学术界青睐。然而，现有大多数先进方法都将LoRA用于Transformer的微调，针对CNN的LoRA研究鲜少有。CNN模型因其在综合资源占用和性能方面的优势广泛部署于物联网设备上。此外，物联网设备通常在户外部署，处理的数据常受环境因素影响(如雾、雪、雨等)。本文旨在使用LoRA技术高效提升CNN模型的鲁棒性。为此，本文首先提出一种面向物联网设备的强大且鲁棒的CNN微调方法，即LoRA-C，通过在卷积层而非核单元上执行低秩分解来减少微调参数数量。随后，本文详细分析了两种不同的秩设置情况，观察到在标准数据或受损数据情况下，当${\alpha}/{r}$为常数时通常能获得最佳性能。这一发现为LoRA-C的广泛应用提供了经验。最后，本文基于预训练模型进行大量实验。在CIFAR-10、CIFAR-100、CIFAR-10-C和Icons50数据集上的实验结果表明，所提出的LoRA-C优于标准ResNet。具体而言，在CIFAR-10-C数据集上，LoRA-C-ResNet-101的准确率达83.44%，超越标准ResNet-101的+9.5%。