中文

通信高效的联邦非线性_bandit 优化

机器学习 2023-11-06 v1 分布式、并行与集群计算

摘要

联邦优化研究在中心服务器协调下多个客户端(如移动设备或组织)协作进行函数优化的问题。由于数据由各客户端分别收集且始终保持去中心化,联邦优化保护了数据隐私并支持大规模计算,这使其成为前景广阔的去中心化机器学习范式。尽管它常部署于本质在线的任务(如键盘应用上的下一词预测),多数工作将其表述为离线问题。少数考虑联邦 bandit 优化的例外仅限于极简函数类,如线性、广义线性或具有有界 RKHS 范数的非参数函数类,这严重阻碍了其实用性。本文提出一种新算法 Fed-GO-UCB,用于具有通用非线性目标函数的联邦 bandit 优化。在温和条件下,我们严格证明 Fed-GO-UCB 对累积遗憾与通信代价均能实现亚线性速率。理论分析的核心在于分布式回归预言机与个体置信集构造,其本身亦具独立意义。经验评估也展示了所提算法的有效性。

关键词

引用

@article{arxiv.2311.01695,
  title  = {Communication-Efficient Federated Non-Linear Bandit Optimization},
  author = {Chuanhao Li and Chong Liu and Yu-Xiang Wang},
  journal= {arXiv preprint arXiv:2311.01695},
  year   = {2023}
}

备注

23 pages, 3 figures