通信高效的联邦非线性_bandit 优化
机器学习
2023-11-06 v1 分布式、并行与集群计算
摘要
联邦优化研究在中心服务器协调下多个客户端(如移动设备或组织)协作进行函数优化的问题。由于数据由各客户端分别收集且始终保持去中心化,联邦优化保护了数据隐私并支持大规模计算,这使其成为前景广阔的去中心化机器学习范式。尽管它常部署于本质在线的任务(如键盘应用上的下一词预测),多数工作将其表述为离线问题。少数考虑联邦 bandit 优化的例外仅限于极简函数类,如线性、广义线性或具有有界 RKHS 范数的非参数函数类,这严重阻碍了其实用性。本文提出一种新算法 Fed-GO-UCB,用于具有通用非线性目标函数的联邦 bandit 优化。在温和条件下,我们严格证明 Fed-GO-UCB 对累积遗憾与通信代价均能实现亚线性速率。理论分析的核心在于分布式回归预言机与个体置信集构造,其本身亦具独立意义。经验评估也展示了所提算法的有效性。
引用
@article{arxiv.2311.01695,
title = {Communication-Efficient Federated Non-Linear Bandit Optimization},
author = {Chuanhao Li and Chong Liu and Yu-Xiang Wang},
journal= {arXiv preprint arXiv:2311.01695},
year = {2023}
}
备注
23 pages, 3 figures