RNNPool：面向内存受限推理的高效非线性池化方法
计算机视觉与模式识别
2020-10-26 v2 机器学习
摘要
为计算机视觉任务设计的标准卷积神经网络（CNN）往往具有较大的中间激活图。这些激活图需要较大的工作内存，因此不适合部署在通常用于边缘推理的资源受限设备上。通过池化或步长卷积激进地对图像下采样可解决该问题，但由于标准池化算子对特征图的粗略聚合，会导致精度显著下降。本文引入RNNPool，一种基于循环神经网络（RNN）的新型池化算子，可高效聚合图像大块区域上的特征并快速下采样激活图。实证评估表明，在应用于图像分类和人脸检测等标准视觉任务时，RNNPool层可有效替代MobileNets、DenseNet等多种架构中的多个模块。即，RNNPool能在保持相当精度的同时显著降低推理的计算复杂度和峰值内存使用。我们将RNNPool与标准S3FD架构结合，构建了一种人脸检测方法，在RAM低于256 KB的微型ARM Cortex-M4类微控制器上实现了最先进的mAP。代码发布于 https://github.com/Microsoft/EdgeML。
引用
@article{arxiv.2002.11921,
title = {RNNPool: Efficient Non-linear Pooling for RAM Constrained Inference},
author = {Oindrila Saha and Aditya Kusupati and Harsha Vardhan Simhadri and Manik Varma and Prateek Jain},
journal= {arXiv preprint arXiv:2002.11921},
year = {2020}
}
备注
25 pages, 8 figures. Published at Advances in Neural Information Processing Systems (NeurIPS) 2020