通过不确定性量化实现联邦学习的分配正义

联邦学习的客户端水平公平性指标用于确保联邦中所有客户端：a)在其本地数据分布上获得相似的最终性能（即客户端平等），或b)在其对联邦学习过程贡献相对于其本地数据分布的最终性能（即贡献公平）。虽然少数工作提出要么客户端平等，要么基于贡献的公平性度量，但这些工作在定义和决策上基于分配正义等社会平等理论——然而大多数工作却任意选择采用何种公平性度量，这使得实践者难以选择最符合其公平伦理的度量。本文提出UDJ-FL（Uncertainty-based Distributive Justice for Federated Learning，基于不确定性的联邦学习分配正义），一个灵活的联邦学习框架，能够实现多种基于分配正义的客户端水平公平度量。具体而言，我们采用受公平资源分配启发的技术，结合基于阿尔泰尔（aleatoric）不确定性的客户端加权，UDJ-FL框架能够实现平等主义、效用主义、拉罗斯差异原则或基于 desert 的客户端水平公平。我们通过实验展示了UDJ-FL实现上述四种分配正义-Based客户端水平公平度量的能力，此外还能提供相当于或超越其他流行公平联邦学习方法的公平性。进一步，我们阐释了为何阿尔泰尔不确定性加权是UDJ-FL框架构建所必需的，并推导了UDJ-FL的泛化界限的理论保证。我们的代码已公开于https://github.com/alycia-noel/UDJ-FL。