面向 AI 应用的 TPU 探索
硬件体系结构
2023-11-15 v2 人工智能
摘要
张量处理单元（TPU）是 Google 开发的专用于深度学习的硬件加速器。本文旨在探索云与边缘计算中的 TPU，重点关注其在 AI 中的应用。我们概述了 TPU、其总体架构，特别是其与神经网络相关的设计、编译技术以及支撑框架。此外，我们将云 TPU 与边缘 TPU 的性能与其他同类芯片架构进行了对比分析。结果表明，TPU 在云与边缘计算中均能带来显著的性能提升。另外，本文强调了进一步研究优化技术以在边缘 TPU 上高效部署 AI 架构，以及建立基准测试标准以在边缘计算场景中进行更稳健对比分析的迫切需求。推动此类研究的主要动机在于，由 TPU 促进的高效 AI 加速可在时间、资金与环境资源方面带来可观的节约。
引用
@article{arxiv.2309.08918,
title = {Exploration of TPUs for AI Applications},
author = {Diego Sanmartín Carrión and Vera Prohaska},
journal= {arXiv preprint arXiv:2309.08918},
year = {2023}
}
备注
Research done by the Robotics & AI Club at IE University