迈向多目标统计公平的联邦学习
机器学习
2022-01-26 v1 人工智能
摘要
联邦学习（Federated Learning, FL）的出现源于数据所有权和隐私方面的担忧，旨在防止数据在训练过程中涉及的多个参与方之间共享。尽管隐私等问题在该领域已获得显著关注，但在联邦学习环境中满足统计公平性指标的问题却未得到足够重视。基于这一目标，我们进行了研究，以表明联邦学习能够在由不同类型客户端组成的不同数据体制下满足不同的公平性指标。更具体地说，不合作或对抗性客户端可能会因其训练数据集中存在的偏差，通过注入有偏或中毒的模型来污染全局联邦学习模型。这些偏差可能源于不平衡的训练集、历史偏见或来自针对公平性的数据中毒攻击的中毒数据点。因此，我们提出了一种新的联邦学习框架，该框架能够满足包括各种统计公平性指标在内的多个目标。通过实验，我们展示了该方法与各种基线方法相比的有效性，其集体和单独满足不同目标的能力，以及其识别不合作或对抗性客户端并降低其影响的能力。
引用
@article{arxiv.2201.09917,
title = {Towards Multi-Objective Statistically Fair Federated Learning},
author = {Ninareh Mehrabi and Cyprien de Lichy and John McKay and Cynthia He and William Campbell},
journal= {arXiv preprint arXiv:2201.09917},
year = {2022}
}