数据新鲜度与节能无人机导航优化:一种深度强化学习方法
信号处理
2020-03-11 v1 机器学习
网络与互联网体系结构
系统与控制
系统与控制
机器学习
摘要
在本文中,我们为多个无人机(UAV)设计了一种导航策略,其中部署移动基站(BS)以改善物联网(IoT)设备的数据新鲜度与连接性。首先,我们 formulate 了一个节能轨迹优化问题,其目标是通过优化 UAV-BS 轨迹策略来最大化能量效率。我们还纳入了能量和信息年龄(AoI)约束等不同上下文信息,以确保地面 BS 处的数据新鲜度。其次,我们提出了一种带经验回放的敏捷深度强化学习模型,以求解所 formulate 的关于 UAV-BS 导航上下文约束的问题。此外,所提方法非常适于求解该问题,因为问题的状态空间极其庞大,且利用有用上下文特征为 UAV-BS 寻找最佳轨迹策略过于复杂。通过应用所提训练模型,UAV-BS 的有效实时轨迹策略随时间捕获可观测网络状态。最后,仿真结果表明,所提方法比贪婪方法和基线深度 Q 网络(DQN)方法的能量效率分别高 3.6% 和 3.13%。
引用
@article{arxiv.2003.04816,
title = {Data Freshness and Energy-Efficient UAV Navigation Optimization: A Deep Reinforcement Learning Approach},
author = {Sarder Fakhrul Abedin and Md. Shirajum Munir and Nguyen H. Tran and Zhu Han and Choong Seon Hong},
journal= {arXiv preprint arXiv:2003.04816},
year = {2020}
}
备注
Submitted to IEEE Transactions on Intelligent Transportation Systems, Special Issue on Unmanned Aircraft System Traffic Management