可信联邦学习
机器学习
2025-03-06 v1 密码学与安全
分布式、并行与集群计算
摘要
本文提出了一套综合性框架，以解决联邦学习（FL）中的三个关键可信挑战：对抗 Byzantine 攻击的鲁棒性、公平性以及隐私保护。为提高系统抵御发送恶意信息以偏向系统性能的 Byzantine 攻击的能力，我们发展了基于双侧范数筛选（Two-sided Norm Based Screening, TNBS）的机制，允许中心服务器裁剪具有最低 l 个范数和最高 h 个范数的梯度。TNBS 作为一种筛选工具，可过滤掉梯度远离诚实者梯度的潜在恶意参与者。为促进平等的公平性，我们采用 q-公平联邦学习（q-fair federated learning, q-FFL）。此外，我们采用基于差分隐私的方案，防止中心方推断出本地客户的原始数据。我们为在不同情景下使用的本框架提供了收敛性保证。实验结果表明，所提出的框架在真实数据集上有效改善了鲁棒性和公平性，同时合理地管理隐私与精度之间的权衡。这一工作似乎是首次在实验和理论层面系统性地解决了公平性、隐私和鲁棒性这三方面的可信联邦学习问题。
引用
@article{arxiv.2503.03684,
title = {Towards Trustworthy Federated Learning},
author = {Alina Basharat and Yijun Bian and Ping Xu and Zhi Tian},
journal= {arXiv preprint arXiv:2503.03684},
year = {2025}
}