基于深度强化学习的虚拟边缘计算系统中计算卸载性能优化
机器学习
2018-05-17 v1 人工智能
机器学习
摘要
为提升移动设备的计算体验质量,移动边缘计算(MEC)是一种通过在切片无线接入网(RAN)近端提供计算能力的可行范式,其同时支持传统通信与MEC服务。然而,虚拟MEC系统的计算卸载策略设计仍具挑战性。具体而言,是在移动设备上执行计算任务还是将其卸载至MEC服务器执行,应适应时变网络动态。本文考虑超密集切片RAN中代表性移动用户的MEC,其中可选择多个基站(BS)进行计算卸载。求解最优计算卸载策略的问题被建模为马尔可夫决策过程,其目标是在依据任务队列状态、能量队列状态以及移动用户与基站间信道质量做出卸载决策时,最大化长期效用性能。为打破状态空间高维度的诅咒,我们首先提出一种基于双深度Q网络(DQN)的策略性计算卸载算法,以在无需网络动态先验知识的情况下学习最优策略。随后受效用函数可加结构的启发,将Q函数分解技术与双DQN结合,从而得出求解随机计算卸载的新颖学习算法。数值实验表明,与基线策略相比,我们所提学习算法在计算卸载性能上取得了显著提升。
引用
@article{arxiv.1805.06146,
title = {Optimized Computation Offloading Performance in Virtual Edge Computing Systems via Deep Reinforcement Learning},
author = {Xianfu Chen and Honggang Zhang and Celimuge Wu and Shiwen Mao and Yusheng Ji and Mehdi Bennis},
journal= {arXiv preprint arXiv:1805.06146},
year = {2018}
}