TinyMLOps：边缘 AI 广泛部署中的运维挑战
机器学习
2022-03-29 v2 分布式、并行与集群计算
神经与进化计算
摘要
在边缘设备上部署机器学习应用可带来可靠性、延迟和隐私方面的显著优势，但同时也引入了一系列自身的挑战。大多数工作聚焦于边缘平台有限的计算资源，但这并非阻碍广泛采用的唯一瓶颈。在本文中，我们列举了 TinyML 从业者在边缘设备上将应用运维化时可能需要考虑的其他若干挑战。我们关注诸如监控与管理应用等 MLOps 平台的常见功能任务，并展示这些任务如何因边缘部署的分布式特性而变得复杂。我们还讨论了边缘应用所特有的问题，例如保护模型的知识产权与验证其完整性。
引用
@article{arxiv.2203.10923,
title = {TinyMLOps: Operational Challenges for Widespread Edge AI Adoption},
author = {Sam Leroux and Pieter Simoens and Meelis Lootus and Kartik Thakore and Akshay Sharma},
journal= {arXiv preprint arXiv:2203.10923},
year = {2022}
}
备注
4th Workshop on Parallel AI and Systems for the Edge (PAISE2022) paper