物联网设备的联邦学习成本差异
机器学习
2022-04-19 v1 密码学与安全
摘要
联邦学习（FL）通过规避在能量、时间与隐私方面的数据收集成本，促进了物联网（IoT）设备上的预测模型训练。我们将 IoT 设备因其参与成本而获得的学习收益建模为其效用。由于设备的异质性，本地模型的学习成本及其质量（可能时变）因设备而异。我们表明，这种差异导致了效用不公平，因为设备间共享同一全局模型。默认情况下，主节点不知晓设备的本地模型计算与传输成本，因此无法解决效用不公平问题。此外，设备可能利用主节点的这一知识缺失，故意降低其支出从而提升其效用。我们提议基于各设备的贡献与支出，在每轮中控制与其共享的全局模型质量。这是通过采用差分隐私，依据学习贡献来限制全局模型泄露实现的。另外，我们为各设备设计自适应计算与传输策略以控制其支出，从而缓解效用不公平。我们的结果表明，与基准方案相比，所提方案将设备能量成本的标准差降低了 99%，而设备训练损失的标准差围绕 0.103 波动。
引用
@article{arxiv.2204.08036,
title = {Federated Learning Cost Disparity for IoT Devices},
author = {Sheeraz A. Alvi and Yi Hong and Salman Durrani},
journal= {arXiv preprint arXiv:2204.08036},
year = {2022}
}
备注
arXiv admin note: substantial text overlap with arXiv:2109.05267