面向计算机视觉的硬件感知移动端基础模块评估
计算机视觉与模式识别
2022-08-29 v1
摘要
在这项工作中，我们提出一种以硬件感知方式准确评估和比较计算机视觉高效神经网络基础模块性能的方法论。我们的比较基于从设计空间中随机采样网络所得的帕累托前沿，以捕捉潜在的精度/复杂度权衡。我们表明，该方法能够匹配先前比较范式所获取的信息，同时提供更多关于硬件成本与精度之间关系的洞见。我们使用该方法分析不同基础模块，并在一系列嵌入式硬件平台上评估其性能。这凸显了在神经网络设计过程中将基础模块基准测试作为预筛选步骤的重要性。我们表明，选择正确的基础模块可在特定硬件 ML 加速器上将推理加速至多 2 倍。
引用
@article{arxiv.2208.12694,
title = {Hardware-aware mobile building block evaluation for computer vision},
author = {Maxim Bonnaerens and Matthias Freiberger and Marian Verhelst and Joni Dambre},
journal= {arXiv preprint arXiv:2208.12694},
year = {2022}
}