面向边缘设备的 LoRA-Edge：基于张量-列车辅助的 CNN 精细调优
计算机视觉与模式识别
2025-11-10 v2 硬件体系结构
摘要
CNN 的设备内精细调优是抵御边缘应用（如人体活动识别, HAR）中域迁移的关键，但在严格的内存、计算和能源预算下进行完整精细调优是不可行的。我们提出 LoRA-Edge，一种基于低秩适应 (LoRA) 结合张量-列车辅助的参数高效精细调优 (PEFT) 方法。LoRA-Edge (i) 对预训练的卷积层应用张量-列车奇异值分解 (TT-SVD)，(ii) 仅零初始化更新输出侧核心以保持辅助路径在启动时保持非活跃状态，(iii) 将更新融合回稠密核中，保持推理成本不变。该设计保留卷积结构，并将可训练参数数量相对于完整精细调优降低最高两个数量级。在多样化的 HAR 数据集和 CNN 主干网络上，LoRA-Edge 在准确率上仅落后于完整精细调优 4.7%，而仅更新最多 1.49% 的参数，始终在类似预算下优于先前的参数高效基准。在 Jetson Orin Nano 上，TT-SVD 初始化和选择性核心训练实现了 1.4-3.8 倍加速收敛到目标 F1。LoRA-Edge 因此使面向边缘平台的结构对齐、参数高效的 CNN 适应成为可能。
引用
@article{arxiv.2511.03765,
title = {LoRA-Edge: Tensor-Train-Assisted LoRA for Practical CNN Fine-Tuning on Edge Devices},
author = {Hyunseok Kwak and Kyeongwon Lee and Jae-Jin Lee and Woojoo Lee},
journal= {arXiv preprint arXiv:2511.03765},
year = {2025}
}
备注
8 pages, 6 figures, 2 tables, DATE 2026 accepted paper