Bonseyes AI Pipeline——将 AI 带给您:数据、算法与部署工具的端到端集成
机器学习
2020-08-18 v3 分布式、并行与集群计算
声音
音频与语音处理
机器学习
摘要
下一代嵌入式信息与通信技术(ICT)系统是可执行自主任务的协作系统。嵌入式 ICT 市场的显著扩张,以及人工智能(AI)的兴起与突破,使边缘(Edge)成为下一次技术革命的关键之一:即 AI 与我们日常生活的无缝集成。然而,在嵌入式设备上训练和部署定制 AI 解决方案需要对数据、算法和工具进行细粒度集成以实现高精度。此类集成需要高度专业知识,这成为希望在边缘部署 AI 解决方案的中小企业所面临的实际瓶颈,并最终减缓了 AI 在日常生活应用中的采用。在本工作中,我们提出一个模块化 AI pipeline 作为集成框架,将数据、算法与部署工具汇聚在一起。通过消除集成障碍并降低所需专业知识,我们可互连各工具阶段,并为嵌入式设备提供模块化的 AI 产品端到端开发。我们的 AI pipeline 包含四个模块化主要步骤:i) 数据摄取,ii) 模型训练,iii) 部署优化,以及 iv) IoT 中心集成。为展示我们 pipeline 的有效性,我们在各步骤中提供了不同 AI 应用的示例。此外,我们将我们的部署框架 LPDNN 集成进 AI pipeline,并呈现其面向嵌入式设备的轻量架构与部署能力。最后,我们通过在若干知名嵌入式平台上部署关键词 spotting、图像分类与对象检测等多个 AI 应用来展示 AI pipeline 的结果,其中 LPDNN 始终优于所有其他流行部署框架。
引用
@article{arxiv.1901.05049,
title = {Bonseyes AI Pipeline -- bringing AI to you. End-to-end integration of data, algorithms and deployment tools},
author = {Miguel de Prado and Jing Su and Rabia Saeed and Lorenzo Keller and Noelia Vallez and Andrew Anderson and David Gregg and Luca Benini and Tim Llewellynn and Nabil Ouerhani and Rozenn Dahyot and and Nuria Pazos},
journal= {arXiv preprint arXiv:1901.05049},
year = {2020}
}