基于低成本 FPGA 加速 ODE 类神经网络
机器学习
2023-03-13 v5 人工智能
摘要
ODENet 是一种深度神经网络架构，其中 ResNet 的堆叠结构由常微分方程（ODE）求解器实现。它可通过选择合适的求解器来减少参数数量并在精度与性能之间取得平衡。在资源受限的边缘设备上，也有可能在保持相同参数数量的同时提升精度。本文使用欧拉法作为 ODE 求解器，将 ODENet 的一部分作为专用逻辑实现于低成本 FPGA（现场可编程门阵列）板（如 PYNQ-Z2 板）上。作为 ODENet 的变体，提出并分析了重度使用 ODENet 部分层且以不同方式削减/去除某些层的精简 ODENet（rODENet），以用于低成本 FPGA 实现。从参数规模、精度、执行时间与 FPGA 资源利用率方面对其进行了评估。结果表明，在保持与原始 ODENet 相当精度的同时，某 rODENet 变体的整体执行时间相较纯软件执行最高提升 2.66 倍。
引用
@article{arxiv.2012.15465,
title = {Accelerating ODE-Based Neural Networks on Low-Cost FPGAs},
author = {Hirohisa Watanabe and Hiroki Matsutani},
journal= {arXiv preprint arXiv:2012.15465},
year = {2023}
}
备注
RAW'21