SmartSplit：智能手机环境下 CNN 分割的延迟-能耗-内存优化
机器学习
2022-01-17 v1
摘要
由于需要将全部处理贴近用户并解决隐私问题，人工智能如今已在智能手机行业占据中心地位。被多种 AI 应用所使用的卷积神经网络（CNNs）对资源和计算高度密集。尽管新一代智能手机配备了 AI 赋能的芯片，但由于智能手机上同时运行许多应用，最小化的内存与能耗利用仍是必需的。有鉴于此，通过将部分处理卸载到云服务器来优化智能手机上的工作负载是一个重要的研究方向。在本文中，我们通过构建一个优化端到端延迟、内存利用和能耗的多目标优化问题，分析了在智能手机与云服务器间分割 CNN 的可行性。我们设计了 SmartSplit，一种基于决策分析的遗传方法来求解该优化问题。我们使用多个 CNN 模型运行的实验表明，在智能手机与云服务器间分割 CNN 是可行的。所提出的方法 SmartSplit 相较于其他最先进的方法表现更优。
引用
@article{arxiv.2111.01077,
title = {SmartSplit: Latency-Energy-Memory Optimisation for CNN Splitting on Smartphone Environment},
author = {Ishan Prakash and Aniruddh Bansal and Rohit Verma and Rajeev Shorey},
journal= {arXiv preprint arXiv:2111.01077},
year = {2022}
}