一对一还是全体一致：联邦学习中协作的均衡与最优性
机器学习
2021-03-05 v1 数据结构与算法
计算机科学与博弈论
摘要
近年来，联邦学习已被采纳为一种在大量学习智能体之间实现协作的方法。然而，在为公共学习分配个体资源以维持此类协作时，协作协议应如何考虑智能体激励，人们知之甚少。受博弈论概念的启发，本文引入了联邦学习中激励感知学习与数据共享的框架。我们的稳定与无嫉妒均衡刻画了在智能体既希望达成其学习目标又希望保持自身样本收集负担较低的情况下的协作概念。例如，在无嫉妒均衡中，任何智能体都不愿与任何其他智能体交换其采样负担；在稳定均衡中，任何智能体都不愿单方面减少其采样负担。除形式化该框架外，我们的贡献还包括刻画此类均衡的结构性质、证明它们何时存在，以及展示如何计算它们。此外，我们将激励感知协作的样本复杂度与忽略智能体激励时最优协作的样本复杂度进行比较。
引用
@article{arxiv.2103.03228,
title = {One for One, or All for All: Equilibria and Optimality of Collaboration in Federated Learning},
author = {Avrim Blum and Nika Haghtalab and Richard Lanas Phillips and Han Shao},
journal= {arXiv preprint arXiv:2103.03228},
year = {2021}
}