公平且渐近平等的协作学习
机器学习
2023-06-12 v1 人工智能
计算机科学与博弈论
多智能体系统
摘要
在带流式数据的协作学习中，节点（如机构）通过共享由其最新流式数据计算出的最新模型更新，联合且持续地学习一个机器学习（ML）模型。为使资源更丰富的节点愿意共享其模型更新，需要对其实行公平激励。本文探索一种保证公平性的激励设计，使节点获得与其贡献相称的奖励。我们的方法利用先探索后利用的公式来估计节点贡献（即探索），以实现理论保证的公平激励（即利用）。然而，我们观察到现有保证公平的方法出现了“富者愈富”现象，这打击了资源较少节点的参与积极性。为此，我们额外保持渐近平等，即资源较少节点最终达到与资源更丰富/“富”节点相等的性能。我们在两个真实世界流式数据设置中实证展示：联邦在线增量学习与联邦强化学习，我们所提方法在公平性与学习性能上优于现有基线，同时在保持平等方面具竞争力。
引用
@article{arxiv.2306.05764,
title = {Fair yet Asymptotically Equal Collaborative Learning},
author = {Xiaoqiang Lin and Xinyi Xu and See-Kiong Ng and Chuan-Sheng Foo and Bryan Kian Hsiang Low},
journal= {arXiv preprint arXiv:2306.05764},
year = {2023}
}
备注
Accepted to 40th International Conference on Machine Learning (ICML 2023), 37 pages