从设备上AI到设备间AI：基于流管道的演进
机器学习
2022-01-19 v1 人工智能
软件工程
摘要
现代消费电子设备常借助深度神经网络提供智能服务。我们已开始将智能服务的计算位置从云服务器（传统AI系统）迁移至相应设备（设备上AI系统）。设备上AI系统通常具有保护隐私、消除网络延迟和节省云成本的优势。随着具有相对较低计算能力的设备上AI系统的出现，不一致且多变的硬件资源与能力带来了困难。作者所属机构已开始将流管道框架NNStreamer应用于设备上AI系统，以节省开发成本与硬件资源并提升性能。我们希望扩展设备上AI服务产品的设备类型与应用范围，涵盖本机构及第二/第三方产品。我们也希望使每项AI服务原子化、可重新部署，并能在任意厂商的互联设备间共享；正如一贯如此，我们现在又引入了另一项需求。这一“设备间AI”的新需求包括AI管道之间的连接性，以便它们能够跨广泛设备（无论厂商与制造商）共享计算资源与硬件能力。我们提出对用于设备上AI的流管道框架NNStreamer的扩展，使NNStreamer能够提供设备间AI能力。本工作是Linux基金会（LF AI and Data）开源项目，接受公众贡献。
引用
@article{arxiv.2201.06026,
title = {Toward Among-Device AI from On-Device AI with Stream Pipelines},
author = {MyungJoo Ham and Sangjung Woo and Jaeyun Jung and Wook Song and Gichan Jang and Yongjoo Ahn and Hyoung Joo Ahn},
journal= {arXiv preprint arXiv:2201.06026},
year = {2022}
}
备注
to appear in ICSE 2022 SEIP (preprint)