中文

基于高效逆强化学习的通信负载均衡

网络与互联网体系结构 2023-03-30 v1 人工智能 机器学习

摘要

通信负载均衡旨在平衡不同可用资源间的负载,从而提升网络系统的服务质量。在将负载均衡(LB)建模为马尔可夫决策过程问题后,强化学习(RL)近期被证明能有效解决LB问题。然而,要利用经典RL解决负载均衡,需要显式的奖励定义。设计该奖励函数具有挑战性,因为它需要专家知识,且对于最优奖励函数形式缺乏普遍共识。本工作中,我们从逆强化学习(IRL)角度处理通信负载均衡问题。据我们所知,这是IRL首次成功应用于通信负载均衡领域。具体而言,我们首先从一组示范中推断出奖励函数,然后利用推断的奖励函数学习一个强化学习负载均衡策略。相比经典基于RL的方案,所提方案更具通用性,更适用于真实场景。在不同模拟流量场景上实现的实验评估表明,我们的方法有效且大幅优于其他基线。

关键词

引用

@article{arxiv.2303.16686,
  title  = {Communication Load Balancing via Efficient Inverse Reinforcement Learning},
  author = {Abhisek Konar and Di Wu and Yi Tian Xu and Seowoo Jang and Steve Liu and Gregory Dudek},
  journal= {arXiv preprint arXiv:2303.16686},
  year   = {2023}
}

备注

Accepted in International Conference on Communications (ICC) 2023