面向前向拍卖式联邦学习的多会话预算优化
人工智能
2023-11-22 v1
摘要
基于拍卖的联邦学习(AFL)近年来已成为一个重要研究领域。现有的 FL 模型用户(MU)策略假设,一个 FL 任务所需的全部数据所有者(DO)团队必须在训练开始前组建完毕。在实践中,一个 MU 可以多次触发 FL 训练过程,因此 DO 可以在多个 FL 模型训练会话中逐步招募。现有的 AFL MU 竞价策略并非为处理此类场景而设计,因此多会话 AFL 问题仍然悬而未决。为解决该问题,我们提出了面向前向拍卖式联邦学习的多会话预算优化策略(MultiBOS-AFL)。基于分层强化学习,MultiBOS-AFL 联合优化 AFL MU 的会话间预算 pacing 与会话内竞价,以最大化总效用为目标。在六个基准数据集上的大量实验表明,它显著优于七种最先进的方法。平均而言,与最佳基线相比,MultiBOS-AFL 实现了 12.28% 更高的效用、通过拍卖获取的给定预算下多 14.52% 的数据,以及所得 FL 模型高 1.23% 的测试准确率。据我们所知,它是首个为多多会话前向拍卖式联邦学习中的 MU 设计、具备预算 pacing 能力的预算优化决策支持方法。
引用
@article{arxiv.2311.12548,
title = {Multi-Session Budget Optimization for Forward Auction-based Federated Learning},
author = {Xiaoli Tang and Han Yu},
journal= {arXiv preprint arXiv:2311.12548},
year = {2023}
}