面向不可信参与者的可信联邦学习
机器学习
2025-06-05 v2 密码学与安全
分布式、并行与集群计算
摘要
对恶意参与者和数据隐私的韧性是可信联邦学习的必需条件，但通常需要强大的假设，即存在受信任的中心服务器。本文表明，仅需弱于此的假设即可：每对参与者共享一组为其他人所未知的随机种子。在恶意参与者可能与不可信服务器联合的setting中，我们提出了 CafCor 算法，该算法集成了鲁棒梯度聚合与相关噪声注入，使用参与者之间的共享随机性。我们证明了 CafCor 在隐私-效用之间实现了强大的权衡，显著优于不做任何信任假设的局部差分隐私 (DP) 方法，同时接近中心 DP 效用，即服务器完全受信任。实验结果在标准基准测试上验证了 CafCor 的实际性，表明在不牺牲效用或信任服务器的前提下，隐私和鲁棒性可以在分布式系统中共存。
引用
@article{arxiv.2505.01874,
title = {Towards Trustworthy Federated Learning with Untrusted Participants},
author = {Youssef Allouah and Rachid Guerraoui and John Stephan},
journal= {arXiv preprint arXiv:2505.01874},
year = {2025}
}
备注
ICML 2025 conference paper