面向卷积神经网络的 Edge TPU 加速器评估
机器学习
2022-10-12 v2 硬件体系结构
摘要
Edge TPU 是面向低功耗边缘设备的加速器领域，并广泛用于 Coral 和 Pixel 设备等各类 Google 产品中。本文首先讨论 Edge TPU 的主要微体系结构细节。随后，我们针对三类 Edge TPU（覆盖不同计算生态，且当前已部署于 Google 产品或为产品管线）在 423K 个独特卷积神经网络上进行了广泛评估。基于该项广泛研究，我们讨论了关于所研究 Edge TPU 类别的关键且可解释的微体系结构见解。主要讨论了 Edge TPU 加速器在不同结构卷积神经网络上的表现。最后，我们展示了正在开展的构建高准确度学习型机器学习模型的工作，用于估计加速器的延迟和能耗等主要性能指标。这些学习模型能够实现显著更快（毫秒量级）的加速器评估，替代耗时的周期精确模拟器，并为快速的硬件/软件协同设计提供了令人振奋的机遇。
引用
@article{arxiv.2102.10423,
title = {An Evaluation of Edge TPU Accelerators for Convolutional Neural Networks},
author = {Kiran Seshadri and Berkin Akin and James Laudon and Ravi Narayanaswami and Amir Yazdanbakhsh},
journal= {arXiv preprint arXiv:2102.10423},
year = {2022}
}
备注
13 pages, 15 figures, 8 tables, published in IISWC 2022