网络智能体中独立学习的分析:以包转发为例
网络与互联网体系结构
2022-02-08 v1
摘要
多智能体强化学习(MARL)如今被广泛用于解决各领域中的现实复杂决策问题。尽管 MARL 可分为独立方法与协作方法,我们认为独立方法对于大规模分布式系统(如网络包转发)是一种简单、更具可扩展性且成本更低的方法。在本文中,我们以命名数据网络(NDN)架构为驱动示例,定量与定性地评估了在网络包转发中利用此类独立智能体学习方法(特别是基于 IQL 的算法)的益处。我们将多种基于 IQL 的转发策略(IDQF)进行测试,并将其性能与非常基础的转发方案以及简单拓扑/流量模型进行比较,以突出主要挑战与问题。我们讨论了与 IDQF 性能不佳相关的主要问题,并在不同模型调优参数与网络拓扑/特征下训练与测试 IDQF 模型时,量化了这些问题对隔离性的影响。
引用
@article{arxiv.2202.02349,
title = {Analysis of Independent Learning in Network Agents: A Packet Forwarding Use Case},
author = {Abu Saleh Md Tayeen and Milan Biswal and Abderrahmen Mtibaa and Satyajayant Misra},
journal= {arXiv preprint arXiv:2202.02349},
year = {2022}
}
备注
6 pages, 4 figures