一种基于深度可分离卷积的低开销神经ODE用于FPGA上的边缘域适应
机器学习
2023-07-04 v4 硬件体系结构
摘要
在边缘环境中，对基于深度神经网络（DNN）的高性能系统的需求很高。由于其高计算复杂度，在严格限制计算资源的边缘设备上部署DNN具有挑战性。在本文中，我们通过结合最近提出的参数缩减技术：Neural ODE（常微分方程）和DSC（深度可分离卷积），推导出一个紧凑且高精度的DNN模型，称为dsODENet。Neural ODE利用ResNet与ODE之间的相似性，在多个层之间共享大部分权重参数，从而大大减少内存消耗。我们将dsODENet应用于域适应，作为使用图像分类数据集的实际用例。我们还提出了一种基于FPGA的资源高效dsODENet设计，其中除预处理和后处理层之外的所有参数和特征图都可映射到片上存储器。该设计在Xilinx ZCU104板上实现，并在域适应精度、推理速度、FPGA资源利用率以及与软件对应实现相比的加速率方面进行了评估。结果表明，与我们基线的Neural ODE实现相比，dsODENet实现了相当或略好的域适应精度，而不含预处理和后处理层的总参数规模减少了54.2%至79.8%。我们的FPGA实现将推理速度加速了23.8倍。
引用
@article{arxiv.2107.12824,
title = {A Low-Cost Neural ODE with Depthwise Separable Convolution for Edge Domain Adaptation on FPGAs},
author = {Hiroki Kawakami and Hirohisa Watanabe and Keisuke Sugiura and Hiroki Matsutani},
journal= {arXiv preprint arXiv:2107.12824},
year = {2023}
}