吸收式泛洪:复杂网络上异构 bandit 的高效协议
机器学习
2024-02-27 v4 分布式、并行与集群计算
网络与互联网体系结构
机器学习
摘要
多臂 bandit 被广泛用于建模序贯决策,因而在在线推荐系统和无线网络等许多现实应用中无处不在。我们考虑一个多智能体设定,其中每个智能体求解自身具有不同臂集合的 bandit 实例。它们的目标是在给定网络上通过某种通信协议协作的同时最小化其群体后悔值。此前关于该问题的文献仅分别考虑了臂异质性与网络化智能体。本文引入了一种同时包含这两种特征的设定。针对这一新设定,我们首先对结合经典 UCB 策略的标准泛洪协议给出严格的后悔值分析。随后,为缓解复杂网络中泛洪所带来的高通信成本问题,我们提出一种称为吸收式泛洪(FwA)的新协议。我们对所得后悔界进行了理论分析,并讨论了使用 FwA 相对于泛洪的优势。最后,我们在包括动态网络在内的多种场景上通过实验验证,尽管与其他网络协议相比后悔性能损失极小,FwA 仍显著降低了通信成本。
引用
@article{arxiv.2303.05445,
title = {Flooding with Absorption: An Efficient Protocol for Heterogeneous Bandits over Complex Networks},
author = {Junghyun Lee and Laura Schmid and Se-Young Yun},
journal= {arXiv preprint arXiv:2303.05445},
year = {2024}
}
备注
25 pages, 6 figures. Accepted to the 27th International Conference on Principles of Distributed Systems (OPODIS 2023) - Best Student Paper