AI 的新前沿：设备端 AI 训练与个性化
机器学习
2024-01-08 v3
摘要
现代消费电子设备已开始在本设备上而非云服务器上执行基于深度学习的智能服务，以将个人数据保留在设备上并降低网络与云成本。我们认为这一趋势带来了通过用户数据更新神经网络而不将 data 传出设备的个性化智能服务机遇：设备端训练。然而，设备有限的资源带来了显著困难。我们提出一种轻量级设备端训练框架 NNTrainer，其提供高内存高效的神经网络训练技术以及基于神经网络细粒度执行顺序分析的主动交换。此外，其优化不牺牲精度且对训练算法透明；因此，已有的算法研究可基于 NNTrainer 实现。评估表明 NNTrainer 可将内存消耗降至 1/20（节省 95%！）并有效在设备上个性化智能服务。NNTrainer 是跨平台且实用的开源软件，正被部署至数百万移动设备。
引用
@article{arxiv.2206.04688,
title = {A New Frontier of AI: On-Device AI Training and Personalization},
author = {Ji Joong Moon and Hyun Suk Lee and Jiho Chu and Donghak Park and Seungbaek Hong and Hyungjun Seo and Donghyeon Jeong and Sungsik Kong and MyungJoo Ham},
journal= {arXiv preprint arXiv:2206.04688},
year = {2024}
}
备注
12 pages, 16 figures, Accepted in ICSE 2024