利用边缘 GPU 硬件引擎的并行使用进行视频人脸检测与识别

在公共场所进行边缘端视频人脸检测与识别在安全强化和授权场所非接触式准入等多种应用中都是必需的。本文旨在通过利用人脸检测与识别所需任务的并发性和流水线化，最大化当今边缘 GPU 中可用硬件引擎的并行使用。这还包括视频解码任务，因为视频流通常通过千兆以太网传输，该任务在大多数人脸监控应用中都是必需的。这相比以往工作是一个改进，以往由于缺乏一个能同时探索所有硬件引擎的统一自动化框架，任务通常被分配给单一引擎。此外，以往输入的人脸通常嵌入在静态图像或原始视频流中，忽略了由解码阶段引起的突发延迟。在真实视频流上的结果表明，通过同时使用最新的 NVIDIA 边缘 Orin GPU 中所有可用的硬件引擎，在满足实时性能约束的同时，实现了更高的吞吐量，并略微节省了约 300 mW 的功耗（约占 5%）。如果同时考虑多个视频流，性能会更高。如果 TensorRT 框架为人脸识别任务创建的 shuffle 层数量更少，本可以获得进一步的性能提升。因此，本文建议对现有边缘 GPU 处理器进行一些硬件改进，以进一步提升其性能。