NMS:基于流形近内存采样的高效边缘 DNN 训练
机器学习
2025-08-05 v1
摘要
在边缘设备上训练深度神经网络(DNNs)因其在领域自适应与隐私保护方面的潜力而日益受到关注。然而,DNN 的训练通常依赖大规模数据集,导致能耗巨大,使得在边缘设备上进行训练难以付诸实践。一些数据集压缩方法已被提出以应对这一挑战,例如核心集选择与数据集蒸馏,分别通过选取与生成代表性样本来降低训练成本。然而,这些方法存在两个显著缺陷:(1)需要借助 DNN 模型来评估代表性样本的质量,不可避免地引入 DNN 的归纳偏置,从而导致严重的泛化问题;(2)所有训练图像均需通过长距离 PCB 连接多次访问 DDR,带来巨大的能耗开销。为解决这些问题,受人类大脑非线性流形平稳性的启发,我们首先提出一种不依赖 DNN 的样本选择算法 DE-SNE,以改善泛化问题。其次,我们创新性地利用近内存计算技术来实现 DE-SNE,从而仅需少量图像通过长距离 PCB 访问 DDR,显著降低了 DDR 能耗。最终,我们构建了一种新颖的、具备更高效就地近内存采样特性的边缘设备加速 DNN 训练系统,称为 NMS。据我们所知,NMS 是首个不依赖 DNN 的近内存采样技术,能够有效缓解泛化问题并显著降低由数据集访问引起的 DDR 能耗。实验结果表明,NMS 在模型精度上优于当前最先进的(SOTA)方法 DQ、DQAS 与 NeSSA。
引用
@article{arxiv.2508.02313,
title = {NMS: Efficient Edge DNN Training via Near-Memory Sampling on Manifolds},
author = {Boran Zhao and Haiduo Huang and Qiwei Dang and Wenzhe Zhao and Tian Xia and Pengju Ren},
journal= {arXiv preprint arXiv:2508.02313},
year = {2025}
}