一种使深度学习在IoT设备上可行的双向协同设计方法
计算机视觉与模式识别
2019-05-22 v1
摘要
为资源受限的物联网（IoT）设备开发深度学习模型颇具挑战，因为难以同时获得良好的结果质量（QoR，如DNN模型推理精度）与服务质量（QoS，如推理延迟、吞吐量与功耗）。现有方法通常将DNN模型开发步骤与其在IoT设备上的部署分离，导致次优解。本文中，我们首先引入关于此种分离设计方法的若干有趣但反直觉的观察，并经验性地展示其为何可能导致次优设计。受这些观察启发，我们进而提出一种新颖且实用的双向协同设计方法：自底向上的DNN模型设计策略，辅以自顶向下的DNN加速器设计流程。它实现了DNN模型及其在IoT设备（以FPGA表示）上部署配置的联合优化。我们在使用Pynq-Z1嵌入式FPGA的真实物体检测应用上证明了所提协同设计方法的有效性。我们的方法在QoR（高准确率IoU）与QoS（高吞吐量FPS与高能效）上均取得了最先进（SOTA）结果。
引用
@article{arxiv.1905.08369,
title = {A Bi-Directional Co-Design Approach to Enable Deep Learning on IoT Devices},
author = {Xiaofan Zhang and Cong Hao and Yuhong Li and Yao Chen and Jinjun Xiong and Wen-mei Hwu and Deming Chen},
journal= {arXiv preprint arXiv:1905.08369},
year = {2019}
}
备注
Accepted by the ICML 2019 Workshop on On-Device Machine Learning & Compact Deep Neural Network Representations (ODML-CDNNR)