中文

Swan:一种用于在智能手机 SoC 上高效训练 DNN 的神经引擎

机器学习 2022-06-13 v1 人工智能

摘要

随着对提升数据隐私和减少通信开销的需求增长,在终端用户设备(如智能手机)上训练 DNN 模型的需求正在增加。与配备强大 CPU 和 GPU 的数据中心服务器不同,现代智能手机采用系统级芯片(SoC)架构,由多种专用核心协同执行各类任务。我们观察到,在智能手机 SoC 上训练 DNN 时若不充分考虑其资源约束,不仅会导致次优的训练性能,还会显著影响用户体验。本文提出 Swan,一种在不损害用户体验的前提下优化智能手机 SoC 上 DNN 训练的神经引擎。大规模评估表明,Swan 相较最先进方法可实现 1.2 至 23.3 倍的性能提升。

关键词

引用

@article{arxiv.2206.04687,
  title  = {Swan: A Neural Engine for Efficient DNN Training on Smartphone SoCs},
  author = {Sanjay Sri Vallabh Singapuram and Fan Lai and Chuheng Hu and Mosharaf Chowdhury},
  journal= {arXiv preprint arXiv:2206.04687},
  year   = {2022}
}