通过特征分层边缘推理实现 AI 质量控制
系统与控制
2022-11-16 v1 机器学习
系统与控制
摘要
随着边缘计算的兴起，各类 AI 服务有望通过部署在网络边缘的基于深度神经网络（DNN）的推理（称为边缘推理，EI）在移动端提供。另一方面，由此产生的 AI 质量（例如目标检测中的平均精度均值）一直被视为给定因素，尽管 AI 质量控制在应对不同用户的多样化需求方面十分重要，却尚未得到探索。本工作旨在通过提出特征分层 EI（FHEI）来解决该问题，其包含部署在边缘服务器和相应移动端的特征网络与推理网络。具体而言，特征网络基于特征分层设计，即一种具有不同尺度的单向特征依赖关系。较高尺度特征需要更多的计算与通信负载，但同时提供更好的 AI 质量。该权衡使 FHEI 能够相对于通信与计算负载逐步控制 AI 质量，从而在上行与下行传输以及边缘服务器和移动端计算能力约束下，导出最大化多用户 AI 质量的近最优解。大量仿真验证，所提出的 FHEI 架构上的联合通信与计算控制通过依据通信与计算条件区分各用户的 AI 质量，始终优于若干基准方案。
引用
@article{arxiv.2211.07860,
title = {Enabling AI Quality Control via Feature Hierarchical Edge Inference},
author = {Jinhyuk Choi and Seong-Lyun Kim and Seung-Woo Ko},
journal= {arXiv preprint arXiv:2211.07860},
year = {2022}
}
备注
7 pages, 6 figures, Conference Version