边缘 TPU 上的深度神经网络探索
机器学习
2023-05-05 v2
摘要
本文探讨了 Google 的 Edge TPU 在前馈神经网络上的性能。我们将 Edge TPU 视为一个硬件平台，并探索深度神经网络分类器的不同架构，这类模型传统上在资源受限的边缘设备上运行一直是一个挑战。基于联合时频数据表示（也称为谱图），我们探索了分类性能与推理所消耗能量之间的权衡。Edge TPU 的能效与广泛使用的嵌入式 CPU ARM Cortex-A53 进行了比较。我们的结果量化了神经网络架构规格对 Edge TPU 性能的影响，指导其最优工作点的决策，在该点它可以用最小能耗提供高分类精度。此外，我们的评估突出了 Edge TPU 与 Cortex-A53 之间取决于神经网络规格的性能交叉。基于我们的分析，我们提供了一个决策图，以根据模型参数和上下文指导平台选择决策。
引用
@article{arxiv.2110.08826,
title = {Exploring Deep Neural Networks on Edge TPU},
author = {Seyedehfaezeh Hosseininoorbin and Siamak Layeghy and Brano Kusy and Raja Jurdak and Marius Portmann},
journal= {arXiv preprint arXiv:2110.08826},
year = {2023}
}
备注
12 pages, 16 figures