在网络边缘蒸馏设备端智能
信息论
2019-08-19 v1 机器学习
网络与互联网体系结构
信号处理
math.IT
摘要
无线网络边缘的设备是机器学习（ML）的最后一英里数据源。与传统的现成公共数据集不同，这些用户生成的私有数据集实时反映了最新鲜的本地环境。因此它们对于实现从雾无线接入网（RAN）到无人驾驶汽车和电子健康可穿戴设备等任务关键型智能系统不可或缺。本文聚焦于如何利用雾计算，从分散在无线连接设备上的此类用户生成私有数据中蒸馏出高质量的设备端 ML 模型。为此，我们引入了通信高效且保护隐私的分布式 ML 框架，称为雾机器学习（FML），其中设备端 ML 模型通过交换模型参数、模型输出和代理数据进行训练。随后我们提出了解决无线 RAN 特性、有限设备端资源以及不平衡数据分布的高级 FML 框架。我们的研究表明，通过协同设计通信与分布式 ML 操作，同时考虑异构硬件规格、数据特性和用户需求，可以充分发挥 FML 的潜力。
引用
@article{arxiv.1908.05895,
title = {Distilling On-Device Intelligence at the Network Edge},
author = {Jihong Park and Shiqiang Wang and Anis Elgabli and Seungeun Oh and Eunjeong Jeong and Han Cha and Hyesung Kim and Seong-Lyun Kim and Mehdi Bennis},
journal= {arXiv preprint arXiv:1908.05895},
year = {2019}
}
备注
7 pages, 6 figures; This work has been submitted to the IEEE for possible publication