在鲁棒联邦最佳臂识别中利用异质性
机器学习
2021-09-16 v2 系统与控制
系统与控制
最优化与控制
摘要
我们研究随机多臂老虎机中最佳臂识别问题的联邦变体：一组客户端，每个只能采样臂的子集，通过服务器协作以规定置信度识别最佳臂（即均值奖励最高的臂）。针对该问题，我们提出Fed-SEL，一种简单的通信高效算法，它建立在逐次消除技术之上并涉及客户端的本地采样步骤。为研究Fed-SEL的性能，我们引入臂异质性的概念，刻画对应于不同客户端的臂分布之间的相异程度。有趣的是，我们的分析揭示了臂异质性在降低Fed-SEL的样本复杂度和通信复杂度方面的益处。作为我们分析的一个特例，我们展示对于某些异质问题实例，Fed-SEL仅经过一轮通信即输出最佳臂。我们的发现具有以下关键含义：不同于联邦监督学习中近期工作表明统计异质性会导致糟糕性能，人们可在联邦最佳臂识别中可证明地同时收获本地计算与异质性的益处。作为最后贡献，我们开发了Fed-SEL的变体，适用于联邦和点对点设置，且对拜占庭客户端的存在具有鲁棒性，因此适合部署在恶劣的对抗环境中。
引用
@article{arxiv.2109.05700,
title = {Exploiting Heterogeneity in Robust Federated Best-Arm Identification},
author = {Aritra Mitra and Hamed Hassani and George Pappas},
journal= {arXiv preprint arXiv:2109.05700},
year = {2021}
}