部分可观测状态下能量收集两跳通信的多智能体强化学习
信息论
2019-04-09 v2 math.IT
摘要
我们考虑一个能量收集 (EH) 发射机通过 EH 中继与接收机通信的场景。收集的能量用于数据传输,包括电路能耗。与实际场景一样,由收集能量、电池电量、数据缓冲区水位和信道增益组成的系统状态仅能被 EH 节点部分观测。此外,EH 节点对于自身发射信道的信道增益仅具有过时知识。我们的目标是寻找旨在最大化吞吐量的分布式传输策略。每个 EH 节点实现了一个基于卡尔曼滤波器的信道预测器,以估计其自身信道的当前信道增益。此外,为克服系统状态的部分可观测性,EH 节点在信令阶段相互合作以获取有关其参数的信息。我们将该问题建模为马尔可夫博弈,并提出一种多智能体强化学习算法来寻找传输策略。我们展示了可达吞吐量与所需信令之间的权衡,并为所提算法提供了收敛保证。结果表明,即使计入信令开销,所提算法也优于不考虑合作的其他方法。
引用
@article{arxiv.1702.06185,
title = {Multi-Agent Reinforcement Learning for Energy Harvesting Two-Hop Communications with a Partially Observable State},
author = {Andrea Ortiz and Hussein Al-Shatri and Tobias Weber and Anja Klein},
journal= {arXiv preprint arXiv:1702.06185},
year = {2019}
}