异构设备执行AI推理时的功耗估算
硬件体系结构
2023-09-12 v2 人工智能
计算机视觉与模式识别
图像与视频处理
摘要
现代生活由连接到互联网的电子设备所驱动。物联网（IoT）这一新兴研究领域已变得流行，同时联网设备的数量也在稳步增长。由于许多此类设备被用于执行计算机视觉（CV）任务，理解其功耗与性能的关系至关重要。我们报告了NVIDIA Jetson Nano板在执行目标分类时的功耗特征与分析。作者针对使用YOLOv5模型时的每帧功耗以及以每秒帧数计的输出进行了广泛分析。结果表明，YOLOv5n在吞吐量（即12.34 fps）和低功耗（即0.154 mWh/帧）方面优于其他YOLOv5变体。
引用
@article{arxiv.2207.06150,
title = {Estimating the Power Consumption of Heterogeneous Devices when performing AI Inference},
author = {Pedro Machado and Ivica Matic and Francisco de Lemos and Isibor Kennedy Ihianle and David Ada Adama},
journal= {arXiv preprint arXiv:2207.06150},
year = {2023}
}