器件级技术对神经网络加速器能效的影响
分布式、并行与集群计算
2021-06-29 v1
摘要
能效是神经网络应用的一个关键问题。为缓解该问题，使用 FPGA 或 GPU 的硬件加速相比通用处理器可提供更好的能效。然而，此类加速器的能效进一步提升将极为有益，特别是在功耗受限的边缘计算环境中部署神经网络时。本文中，我们实验探究了代表性现成 FPGA 相较于 GPU 在器件级能效技术（例如供电电压欠缩放、频率缩放与数据量化）方面的潜力。两种平台上的频率缩放均可改善功耗与能耗，但带来性能开销，例如在 GPU 中分别使功耗与 GOPs/J 最多改善 34% 与 28%。然而，利用降低精度指令可同时改善功耗（最多 13%）、能耗（最多 20%）与性能（最多 7%），且神经网络精度下降可忽略。
引用
@article{arxiv.2106.14079,
title = {On the Impact of Device-Level Techniques on Energy-Efficiency of Neural Network Accelerators},
author = {Seyed Morteza Nabavinejad and Behzad Salami},
journal= {arXiv preprint arXiv:2106.14079},
year = {2021}
}