热节流对基于 CPU 的边缘设备上长期视觉推理的影响

边缘视觉推理的许多应用场景，例如机器人或环境监测，最终都需要长时间的连续运行。在此类时段中，处理器温度对保持规定的帧率起着关键作用。特别是，卷积神经网络（CNNs）的重计算负载可能在几秒内导致热节流进而性能下降。在本文中，我们报告并分析了在无主动散热和有主动散热情况下，于 4 个软件框架和 2 个操作系统上运行 5 个 CNN 模型所产生的 80 种不同案例的长期性能。该综合研究在稳定室内条件下于低成本边缘平台即 Raspberry Pi 4B（RPi4B）上进行。结果表明，基于滞环的主动散热在所有案例中均防止了热节流，从而相较于无散热将吞吐量最高提升了约 90%。有趣的是，主动散热期间风扇使用率的范围为 33% 至 65%。鉴于风扇对整个系统功耗的影响，这些结果强调了合适选择 CNN 模型和软件组件的重要性。为评估户外应用中的性能，我们将一个外部温度传感器与 RPi4B 集成，并在 22 {\deg}C 至 36 {\deg}C 的宽泛环境温度区间内进行了无主动散热的一组实验。相对于该区间内达到的最大吞吐量，测量到高达 27.7% 的变化。这表明在无法应用主动散热的情况下，环境温度是一个关键参数。