Split-Et-Impera：一种分布式深度学习应用设计框架
分布式、并行与集群计算
2023-03-23 v1 机器学习
摘要
许多近期的模式识别应用依赖于复杂的分布式架构，其中传感节点与计算节点通过通信网络相互交互。深度神经网络（DNNs）在此场景中发挥重要作用，提供强大的决策机制，代价是较高的计算开销。因此，先进的 DNNs 常被拆分到多个计算节点上，例如一部分留在嵌入式设备，其余部分位于服务器。决定在何处拆分 DNN 本身即是一项挑战，使得深度学习应用的设计更为复杂。为此，我们提出 Split-Et-Impera，一种新颖且实用的框架，它 i) 基于深度网络可解释性原理确定神经网络的最佳拆分点集合，而无需繁琐的试错方法；ii) 执行通信感知的仿真以快速评估不同的神经网络重排；iii) 在应用的服务质量需求与精度和延迟时间方面的性能之间给出最佳匹配。
引用
@article{arxiv.2303.12524,
title = {Split-Et-Impera: A Framework for the Design of Distributed Deep Learning Applications},
author = {Luigi Capogrosso and Federico Cunico and Michele Lora and Marco Cristani and Franco Fummi and Davide Quaglia},
journal= {arXiv preprint arXiv:2303.12524},
year = {2023}
}
备注
26th International Symposium on Design and Diagnostics of Electronic Circuits and Systems (DDECS)