AppealNet:一种高效且高精度的边云协同 DNN 推理架构
机器学习
2021-11-29 v3
摘要
本文提出 AppealNet,一种新颖的边云协同架构,其运行深度学习(DL)任务的效率高于当前最先进的方案。对于给定的输入,AppealNet 会实时准确预测其能否被部署在资源受限边缘设备上的 DL 模型成功处理,若不能,则求助于部署在云端的更强 DL 模型。这是通过采用双头神经网络架构实现的,该架构显式考虑推理难度,并优化边云协同架构在精度与计算/通信开销之间的权衡。在多个图像分类数据集上的实验结果表明,与现有技术相比,在不牺牲精度的情况下可节省超过 40% 的能耗。
引用
@article{arxiv.2105.04104,
title = {AppealNet: An Efficient and Highly-Accurate Edge/Cloud Collaborative Architecture for DNN Inference},
author = {Min Li and Yu Li and Ye Tian and Li Jiang and Qiang Xu},
journal= {arXiv preprint arXiv:2105.04104},
year = {2021}
}
备注
Accepted by DAC2021