公平差分隐私联邦学习框架
机器学习
2023-05-24 v1 计算机与社会
摘要
联邦学习（FL）是一种分布式机器学习策略，使参与者能够协作训练共享模型而无需共享各自的数据集。隐私与公平是FL中的关键考量。虽然FL通过最小化中央服务器上存储的用户数据量来促进隐私，但仍存在需解决的隐私风险。遵循差分隐私、安全多方计算、同态加密和安全聚合协议等工业标准以确保FL中的隐私。公平性也是FL中的关键问题，因为模型可能继承本地数据集中存在的偏差，导致不公平预测。在FL中平衡隐私与公平是一项挑战，因为隐私要求保护用户数据，而公平要求具有代表性的训练数据。本文提出一个“公平差分隐私联邦学习框架”，解决了在无验证数据情况下生成公平全局模型以及创建全局隐私差分模型的挑战。该框架采用裁剪技术处理有偏模型更新，并采用高斯机制实现差分隐私。本文还回顾了FL中隐私与公平的相关工作，强调了近期进展及缓解偏差和确保隐私的方法。在FL中实现隐私与公平需要仔细考虑具体情境与需求，并兼顾工业标准与技术的最新进展。
引用
@article{arxiv.2305.13878,
title = {Fair Differentially Private Federated Learning Framework},
author = {Ayush K. Varshney and Sonakshi Garg and Arka Ghosh and Sargam Gupta},
journal= {arXiv preprint arXiv:2305.13878},
year = {2023}
}
备注
Paper report for WASP module 2