基于强化学习的机会网络蜂窝流量卸载
网络与互联网体系结构
2021-10-04 v1 机器学习
摘要
移动电话的广泛普及正引发移动数据流量的指数级增长,在不久的将来,即便在末代蜂窝网络中也可能造成严重的流量过载问题。将部分流量卸载到其他网络被认为是一种极具前景的方法,特别地,在本文中我们考虑通过用户设备的机会网络进行卸载。然而,该方案的性能强烈依赖于移动节点间的相遇模式,因此在设计卸载控制算法时应将其纳入考量。本文提出一种基于强化学习框架的自适应卸载方案,并评估与比较了两种知名学习算法:Actor-Critic 与 Q-Learning 的性能。更确切地说,在我们的方案中,传播过程的控制器一经训练,便能够选择适当数量的内容副本注入机会网络,以保证内容及时交付给所有感兴趣的用户。我们表明,基于强化学习的系统能够自动学习一种非常高效的策略,以降低蜂窝网络上的流量,而无需依赖关于机会网络的任何额外上下文信息。在一系列不同的移动性设置中,相较于其他最先进的方法,我们的方案实现了更高水平的卸载。此外,我们表明基于 Actor-Critic 算法的更精细学习方案比基于 Q-learning 的更简单方案显著更高效。
引用
@article{arxiv.2110.00397,
title = {Cellular traffic offloading via Opportunistic Networking with Reinforcement Learning},
author = {Lorenzo Valerio and Raffaele Bruno and Andrea Passarella},
journal= {arXiv preprint arXiv:2110.00397},
year = {2021}
}