GnetSeg:在 224mW CNN 加速芯片上以 318FPS 速度优化的语义分割模型
计算机视觉与模式识别
2021-01-27 v1 图像与视频处理
摘要
语义分割是将图像中属于同一类的像素聚类的任务,广泛应用于自动驾驶、医学影像分析、工业检测、智能手机人像分割等实际场景。在移动与边缘设备上加速语义分割模型是产业的切实需求。近年来 CNN(卷积神经网络)加速器日益普及,其在功耗效率与推理速度上的优势,使其成为边缘设备语义分割模型的理想加速方案。然而,CNN 加速芯片在灵活性与内存上亦有限制;且因作为主机 CPU 的协处理器,CPU 负载十分关键。本文优化语义分割模型以充分利用 CNN 加速芯片的有限内存与受支持算子,同时将 CNN 模型的 CPU 负载降至零,所得模型称为 GnetSeg。此外,我们提出 GnetSeg 掩码的整数编码,最小化 CNN 加速器与主机 CPU 间数据传输延迟。实验表明,该模型在 224mW 芯片上以 318FPS 速度运行,于人像分割等应用达到优异精度。
引用
@article{arxiv.2101.10444,
title = {GnetSeg: Semantic Segmentation Model Optimized on a 224mW CNN Accelerator Chip at the Speed of 318FPS},
author = {Baohua Sun and Weixiong Lin and Hao Sha and Jiapeng Su},
journal= {arXiv preprint arXiv:2101.10444},
year = {2021}
}
备注
7 pages, 3 figures, and 2 tables