差分隐私联邦学习中的效用公平性
机器学习
2021-09-14 v1
摘要
联邦学习（FL）允许在无线物联网（IoT）网络中对感知数据进行预测模型训练，从而避免能量、时间和隐私方面的数据收集成本。在本文中，针对一种FL设置，我们将IoT设备通过其参与成本所获得的的学习增益建模为其效用。由于设备异质性（可能是时变的），不同设备的本地模型质量及相关成本各不相同。我们指出，由于设备间共享同一全局模型，这导致了效用不公平。在原始FL设置中，主节点不了解设备的本地模型计算与传输成本，因此无法解决效用不公平问题。此外，设备可能利用主节点这一信息缺失故意降低其支出从而提升其效用。我们提出基于各设备的贡献与支出，在每轮中控制与其共享的全局模型质量。这是通过采用差分隐私，依据学习贡献来限制全局模型的泄露实现的。此外，我们为各设备设计自适应计算与传输策略以控制其支出，从而缓解效用不公平。我们的结果表明，与基准方案相比，所提方案将设备能量成本的标准差降低了99%，而设备训练损失的标准差在0.103左右波动。
引用
@article{arxiv.2109.05267,
title = {Utility Fairness for the Differentially Private Federated Learning},
author = {Sheeraz A. Alvi and Yi Hong and Salman Durrani},
journal= {arXiv preprint arXiv:2109.05267},
year = {2021}
}