面向体验质量增强的端侧推理自动定制
机器学习
2021-12-15 v1 性能
摘要
智能应用的快速增长正将深度学习(DL)能力推向物联网(IoT)。尽管出现了将深度神经网络(DNN)嵌入IoT设备的新工具，但由于DNN架构、IoT设备与用户偏好的异构性，向用户提供满意的体验质量(QoE)仍具挑战。本文研究IoT设备上DL推理的自动定制(称为端侧推理)，目标是在不同使用场景下通过为用户配置合适的DNN来配置端侧推理以增强用户QoE。我们方法的核心是一个DNN选择模块，它在线学习用户QoE模式，并凭借所学知识为端侧推理识别最适配的DNN。其利用一种新颖的在线学习算法NeuralUCB，该算法对处理各类用户QoE模式具有优异的泛化能力。我们还将知识迁移技术嵌入NeuralUCB以加速学习过程。然而，NeuralUCB频繁向用户征求QoE评分，带来不可忽略的不便。为解决该问题，我们设计反馈征求方案，在保持NeuralUCB学习效率的同时减少QoE征求次数。进一步研究了聚合QoE这一实际问题，以提升框架的实用性。我们在合成与真实世界数据上开展实验。结果表明，我们的方法能以极少征求次数高效学习用户QoE模式，并为IoT设备提供显著的QoE增强。
引用
@article{arxiv.2112.06918,
title = {Automated Customization of On-Thing Inference for Quality-of-Experience Enhancement},
author = {Yang Bai and Lixing Chen and Shaolei Ren and Jie Xu},
journal= {arXiv preprint arXiv:2112.06918},
year = {2021}
}