协同学习推荐系统中兴趣社区的推断
信息检索
2025-04-16 v3 密码学与安全
机器学习
社会与信息网络
摘要
基于协同学习的推荐系统，如采用联邦学习(FL)与流言学习(GL)的系统，允许用户在本地设备上训练模型并保留其喜好物品历史。尽管这些方法曾被视为增强隐私的有前景途径，近期研究表明协同学习易受多种隐私攻击。本文提出一种称为社区推断攻击(CIA)的新型攻击，使 adversary 能基于一组目标物品识别社区成员。CIA的独到之处在于其高效性：它通过免去训练替代模型的需求而以低计算成本运行，转而使用基于比较的方法，通过比较用户模型而非针对任何特定个体模型来推断敏感信息。为评估CIA有效性，我们在三个真实推荐数据集上、于联邦与类流言两种设置下使用两种推荐模型进行实验。结果表明CIA准确率可达随机猜测的10倍。此外，我们评估了两种缓解策略：差分隐私随机梯度下降(DP-SGD)与少共享策略(Share less，即共享更少、较不敏感的模型参数)。我们的发现表明少共享策略提供了更好的隐私-效用权衡，尤其在GL中。
引用
@article{arxiv.2306.08929,
title = {Inferring Communities of Interest in Collaborative Learning-based Recommender Systems},
author = {Yacine Belal and Sonia Ben Mokhtar and Mohamed Maouche and Anthony Simonet-Boulogne},
journal= {arXiv preprint arXiv:2306.08929},
year = {2025}
}