CompactNet：面向资源受限平台的卷积神经网络自动优化
机器学习
2019-05-29 v1 机器学习
摘要
基于卷积神经网络（CNN）的深度学习（DL）已在许多实际应用中取得重大进展。同时，由于复杂模型结构面临严格的延迟与内存限制，在资源受限平台上部署 CNN 模型变得愈发具有挑战性。本工作提出一种称为 CompactNet 的解决方案（项目地址：\url{https://github.com/CompactNet/CompactNet}），可在给定推理加速目标下，针对特定资源受限平台自动优化预训练 CNN 模型。在目标平台模拟器引导下，CompactNet 通过移除特定冗余滤波器逐步剪枝预训练网络，直至达到目标加速比，并在保持精度的同时生成最优的平台专用模型。我们在华为 Mate10 智能手机上的移动 ARM CPU 与机器学习加速器 NPU（Cambricon-1A ISA）两个平台上评估了本工作。对于为嵌入式平台打造的先进紧凑 CNN 模型 MobileNetV2，CompactNet 在 Cifar-10 数据集的图像分类任务上实现了高达 1.8 倍的核计算加速，且精度持平甚至更高。
引用
@article{arxiv.1905.11669,
title = {CompactNet: Platform-Aware Automatic Optimization for Convolutional Neural Networks},
author = {Weicheng Li and Rui Wang and Zhongzhi Luan and Di Huang and Zidong Du and Yunji Chen and Depei Qian},
journal= {arXiv preprint arXiv:1905.11669},
year = {2019}
}