面向可证明通信高效的联邦推荐系统的公平性
信息检索
2024-05-28 v1 人机交互
机器学习
摘要
为了减少多个客户端并行训练带来的通信开销，各种联邦学习（FL）技术使用随机客户端采样。然而，在联邦推荐系统（FRS）中，由于每个用户作为独立客户端的隔离性质，确保随机采样的有效性并确定最佳采样客户端数量仍然具有挑战性。在可以分离公共和私有特征，且FL仅允许通信公共特征（物品梯度）的模型中，这一挑战更加严峻。在本研究中，我们建立了样本复杂度界限，规定了在此类模型中提高通信效率和保持准确性所需的理想客户端数量。与我们的理论发现一致，我们通过实验证明RS-FairFRS降低了通信成本（约47%）。其次，我们证明了客户端之间的类别不平衡问题，这引发了FRS的公平性担忧。与集中式机器学习不同，FRS中的客户端无法共享原始数据，包括敏感属性。为此，我们引入了RS-FairFRS，这是第一个基于随机采样的FRS构建的未知公平性FRS。虽然随机采样提高了通信效率，但我们提出了一种新颖的两阶段双公平更新技术，在不暴露参与训练的活跃客户端受保护属性的情况下实现公平性。我们在真实世界数据集和不同敏感特征上的结果表明，人口统计偏差显著降低（约40%），为在不牺牲FRS整体准确性的情况下实现FRS的公平性和通信效率提供了一条有希望的路径。
引用
@article{arxiv.2405.15788,
title = {Towards Fairness in Provably Communication-Efficient Federated Recommender Systems},
author = {Kirandeep Kaur and Sujit Gujar and Shweta Jain},
journal= {arXiv preprint arXiv:2405.15788},
year = {2024}
}