在移动设备上实现深度学习：方法、系统与应用
机器学习
2022-04-26 v1 计算与语言
计算机视觉与模式识别
摘要
深度神经网络（DNNs）在人工智能（AI）领域已取得前所未有的成功，包括计算机视觉、自然语言处理与语音识别。然而，其优越性能伴随着可观的计算复杂度代价，这极大阻碍了它们在许多资源受限设备（如手机与物联网（IoT）设备）中的应用。因此，为支持大量边缘AI应用，亟需能够在保持DNN高精度的同时突破效率瓶颈的方法与技术。本文综述高效深度学习的方法、系统与应用。我们首先介绍流行的模型压缩方法，包括剪枝、分解、量化以及紧凑模型设计。为降低这些人工方案的巨大设计成本，我们讨论各自的AutoML框架，如神经架构搜索（NAS）与自动化剪枝和量化。接着我们涵盖高效设备端训练，以基于移动设备上的本地数据实现用户定制。除通用加速技术外，我们还展示了针对点云、视频与自然语言处理的数个任务专用加速，通过利用空间稀疏性与时间/词元冗余。最后，为支持所有这些算法进展，我们从软件与硬件角度介绍高效深度学习系统设计。
引用
@article{arxiv.2204.11786,
title = {Enable Deep Learning on Mobile Devices: Methods, Systems, and Applications},
author = {Han Cai and Ji Lin and Yujun Lin and Zhijian Liu and Haotian Tang and Hanrui Wang and Ligeng Zhu and Song Han},
journal= {arXiv preprint arXiv:2204.11786},
year = {2022}
}
备注
Journal preprint (ACM TODAES, 2021). The first seven authors contributed equally to this work and are listed in the alphabetical order