中文

纵向联邦学习中实现模型公平性

机器学习 2022-09-07 v3 计算机与社会

摘要

纵向联邦学习(VFL)因使拥有非重叠特征的多方在不披露私有数据与模型参数的情况下增强其机器学习模型而受到日益关注。与其他机器学习算法类似,VFL 面临公平性的需求与挑战,即所学模型可能对具敏感属性的某些群体存在不公平歧视。为解决此问题,我们提出一种公平 VFL 框架。首先,我们系统形式化 VFL 中训练公平模型的问题,将学习任务建模为约束优化问题。为以联邦且隐私保护的方式求解,我们考虑该问题的等价对偶形式,并设计异步梯度坐标下降上升算法,其中若干主动数据方每轮通信执行多次并行局部更新以有效减少通信轮数。服务器发往被动方的消息经精心设计,使局部更新所需信息得以释放而不侵犯数据与敏感属性的隐私。我们严格研究该算法应用于一般非凸-凹极小极大问题的收敛性。证明在温和条件下,算法于 O(δ4)\mathcal{O}(\delta^{-4}) 通信轮内找到对偶目标的 δ\delta-平稳点。最后,在三个基准数据集上的大量实验展示了本方法在训练公平模型上的优越性能。

关键词

引用

@article{arxiv.2109.08344,
  title  = {Achieving Model Fairness in Vertical Federated Learning},
  author = {Changxin Liu and Zhenan Fan and Zirui Zhou and Yang Shi and Jian Pei and Lingyang Chu and Yong Zhang},
  journal= {arXiv preprint arXiv:2109.08344},
  year   = {2022}
}

备注

13 pages, 2 figures