在边缘设备上高效、准确且鲁棒的神经网络增长
机器学习
2024-10-11 v1 计算机视觉与模式识别
摘要
深度学习系统在资源受限的边缘设备上广泛部署，但其高计算复杂度且对外分布(OOD)数据脆弱，尤其是对自然常见噪声。当前解决方案依赖云端训练和压缩模型后部署到边缘，导致传输本地数据至云端的高能耗和延迟成本，同时引发隐私问题。我们提出GEARnn(在边缘设备上增长高效、准确且鲁棒的神经网络)，在现场增长和训练鲁棒网络。从低复杂度初始主干网络开始，GEARnn采用一次性增长(OSG)在干净数据上满足边缘设备内存限制的网络，利用高效鲁棒性增强(ERA)获得最终网络。我们在NVIDIA Jetson Xavier NX上展示结果，分析准确率、鲁棒性、模型大小、能耗和训练时间之间的权衡。我们的结果表明，完全在边缘设备上构建了高效、准确且鲁棒的网络。
引用
@article{arxiv.2410.07691,
title = {Growing Efficient Accurate and Robust Neural Networks on the Edge},
author = {Vignesh Sundaresha and Naresh Shanbhag},
journal= {arXiv preprint arXiv:2410.07691},
year = {2024}
}
备注
10 pages