数据分布对联邦学习公平性与鲁棒性的影响
机器学习
2021-12-03 v1 人工智能
摘要
联邦学习（FL）是一种分布式机器学习协议，允许一组智能体在不共享其数据集的情况下协作训练模型。这使得 FL 特别适用于需要数据隐私的场景。然而，已观察到 FL 的性能与智能体本地数据分布的相似性密切相关。特别地，随着智能体数据分布的差异增大，训练模型的准确率下降。本工作中，我们除准确率外，还考察了本地数据分布的变化如何影响训练模型的公平性和鲁棒性属性。我们的实验结果表明，随着本地数据分布差异增大，训练模型表现出更高的偏差，并且更容易受到攻击。重要的是，公平性和鲁棒性的退化可能远比准确率更为严重。因此，我们揭示出，若训练模型将部署于公平性/安全性关键场景中，那些对准确率影响甚微的微小变化仍可能十分重要。
引用
@article{arxiv.2112.01274,
title = {The Impact of Data Distribution on Fairness and Robustness in Federated Learning},
author = {Mustafa Safa Ozdayi and Murat Kantarcioglu},
journal= {arXiv preprint arXiv:2112.01274},
year = {2021}
}
备注
Published at The Third IEEE International Conference on Trust, Privacy and Security in Intelligent Systems, and Applications. arXiv admin note: text overlap with arXiv:2010.07427, arXiv:2007.03767