基于模型剪枝与编译器优化的移动平台实时DNN推理
机器学习
2020-04-24 v1 计算机视觉与模式识别
多媒体
摘要
高端移动平台正迅速成为各类深度神经网络（DNN）应用的主要计算设备。然而，这些设备上受限的计算与存储资源仍为实时DNN推理执行带来了显著挑战。为解决该问题，我们提出一组硬件友好的结构化模型剪枝与编译器优化技术，以加速移动设备上的DNN执行。本演示表明，这些优化能够实现多种DNN应用（包括风格迁移、DNN上色与超分辨率）在移动端的实时执行。
引用
@article{arxiv.2004.11250,
title = {Towards Real-Time DNN Inference on Mobile Platforms with Model Pruning and Compiler Optimization},
author = {Wei Niu and Pu Zhao and Zheng Zhan and Xue Lin and Yanzhi Wang and Bin Ren},
journal= {arXiv preprint arXiv:2004.11250},
year = {2020}
}
备注
accepted by the IJCAI-PRICAI 2020 Demonstrations Track