架构感知的延迟受限稀疏神经网络
计算机视觉与模式识别
2021-09-02 v1
摘要
加速深度神经网络以满足特定延迟约束，对其在移动设备上的部署至关重要。本文设计了一个架构感知的延迟受限稀疏 (ALCS) 框架，用于剪枝和加速 CNN 模型。考虑现代移动计算架构，我们提出单指令多数据 (SIMD) 结构化剪枝，以及一种用于高效计算的新型稀疏卷积算法。此外，我们提出用分段线性插值估计稀疏模型的运行时间。整个延迟受限剪枝任务被表述为一个可用交替方向乘子法 (ADMM) 高效求解的约束优化问题。大量实验表明，我们的系统-算法协同设计框架在资源受限移动设备上能在网络精度与延迟之间实现好得多的帕累托前沿 (Pareto frontier)。
引用
@article{arxiv.2109.00170,
title = {Architecture Aware Latency Constrained Sparse Neural Networks},
author = {Tianli Zhao and Qinghao Hu and Xiangyu He and Weixiang Xu and Jiaxing Wang and Cong Leng and Jian Cheng},
journal= {arXiv preprint arXiv:2109.00170},
year = {2021}
}