物联网设备上的深度神经网络协同执行
计算机视觉与模式识别
2019-01-10 v1
摘要
随着深度神经网络（DNNs）的最新进展，我们能够解决传统上具挑战性的问题。由于 DNN 计算密集，消费者为部署服务需要依赖云中昂贵且稀缺的计算资源。该方法除了依赖高质量网络基础设施和数据中心外，还引发了新的隐私担忧。这些挑战可能限制基于 DNN 的应用，因此许多研究者尝试优化 DNN 以进行本地和边缘端执行。然而，边缘设备不足的功耗与计算资源以及少量请求限制了当前优化（如批处理）的适用性。在本文中，我们提出一种方法，通过创建协同网络来利用环境周围物联网（IoT）设备已有的聚合计算能力。在该方法中，IoT 设备协作以实时进行单批次推理。在利用若干新型模型并行方法及其分布特性的同时，我们的方法通过创建均衡且分布式的处理流水线来增强协同网络。我们使用许多 Raspberry Pi 并研究 AlexNet、VGG16、Xception 和 C3D 等 DNN 模型阐明了我们的工作。
引用
@article{arxiv.1901.02537,
title = {Collaborative Execution of Deep Neural Networks on Internet of Things Devices},
author = {Ramyad Hadidi and Jiashen Cao and Micheal S. Ryoo and Hyesoon Kim},
journal= {arXiv preprint arXiv:1901.02537},
year = {2019}
}
备注
Updated version after sysML