RAPiD 深度学习算法在英特尔 CPU 上并行执行的复杂度评估
分布式、并行与集群计算
2023-12-12 v1 性能
摘要
了解各种室内空间中有多少人以及他们的位置，对于减少 HVAC 能源浪费、空间管理、空间分析以及紧急情况至关重要。虽然已经提出了一系列技术来检测和跟踪大型室内空间中的人员，但吸顶式鱼眼摄像头最近已成为强有力的竞争者。目前，RAPiD 是鱼眼摄像头捕获图像中人员检测的 SOTA 算法。然而，在大型空间中，需要多个顶部鱼眼摄像头来确保高计数精度，因此必须同时执行多个 RAPiD 实例。本报告评估了在配备英特尔 I7 8559U CPU 的 Ubuntu NUC PC 上并行运行多个 RAPiD 实例时的推理时间。我们考虑了三种 CPU 资源分配机制来处理多个 RAPiD 实例：1) 由 Ubuntu 管理，2) 由用户通过操作系统调用分配逻辑核心来管理，3) 由用户通过 PyTorch 库调用限制 PyTorch 使用的线程数来管理。每种场景都在 300 张图像上进行了评估。实验结果表明，当并行执行一个或两个 RAPiD 实例时，所有三种方法产生的推理时间相似，分别为 1.8 秒和 3.2 秒。然而，当并行运行三个或更多 RAPiD 实例时，限制 PyTorch 使用的线程数会导致最短的推理时间。平均而言，RAPiD 同时完成 2 张图像的推理大约需要 3 秒，4 张图像需要 6 秒，8 张图像需要不到 14 秒。这对实时系统设计很重要。在 HVAC 应用场景中，典型的反应时间为 10-15 分钟，14 秒的延迟可以忽略不计，因此单个 8559U CPU 可以支持 8 个摄像头流，从而降低系统成本。然而，在时间至关重要的紧急情况下，每个摄像头可能需要一个单独的 CPU 才能将延迟降低到 1.8 秒。
引用
@article{arxiv.2312.06544,
title = {Complexity Evaluation of Parallel Execution of the RAPiD Deep-Learning Algorithm on Intel CPU},
author = {Dominic Konrad and Zhihao Duan and Mertcan Cokbas and Prakash Ishwar},
journal= {arXiv preprint arXiv:2312.06544},
year = {2023}
}