设备端机器学习：算法与学习理论视角
机器学习
2020-07-27 v2 分布式、并行与集群计算
机器学习
摘要
在设备上使用机器学习模型的主流范式是在云端训练模型，并在设备上使用训练好的模型进行推理。然而，随着智能设备数量的增加和硬件的改进，人们对在设备上进行模型训练产生了兴趣。鉴于这种兴趣的激增，从与设备无关的视角对该领域进行全面综述，有助于理解最先进技术并识别开放挑战与未来研究方向。然而，设备端学习是一个广阔的领域，与人工智能和机器学习中大量相关主题（包括在线学习、模型自适应、单样本/少样本学习等）存在联系。因此，在单一综述中涵盖如此众多的主题是不切实际的。本综述通过将设备端学习重新表述为以计算和内存为资源的资源受限学习，找到了一个中间立场。这种重新表述使得来自广泛研究领域的工具、技术和算法能够公平比较。除了总结最先进技术外，本综述还指出了设备端学习在算法和理论方面的若干挑战与后续步骤。
引用
@article{arxiv.1911.00623,
title = {On-Device Machine Learning: An Algorithms and Learning Theory Perspective},
author = {Sauptik Dhar and Junyao Guo and Jiayi Liu and Samarth Tripathi and Unmesh Kurup and Mohak Shah},
journal= {arXiv preprint arXiv:1911.00623},
year = {2020}
}
备注
Edge Learning, TinyML, Resource Constrained Machine Learning, Deep learning on device, Statistical Learning Theory, 45 pages survey