面向推荐系统成员推断攻击的去偏学习
信息检索
2022-06-29 v2 密码学与安全
机器学习
摘要
学习型推荐系统可能无意中泄露其训练数据的信息，导致隐私侵犯。我们通过成员推断的视角研究推荐系统面临的隐私威胁。在此类攻击中， adversary 旨在推断某用户的数据是否用于训练目标推荐系统。为此，已有工作使用影子推荐系统来推导攻击模型的训练数据，然后通过计算用户历史交互与推荐项之间的差异向量来预测成员关系。现有最优方法面临两个挑战性问题：(1) 由于影子推荐系统与目标推荐系统之间的差距，攻击模型的训练数据存在偏差；(2) 推荐系统中的隐藏状态不可观测，导致差异向量的估计不准确。为克服上述局限，我们提出一种面向推荐系统成员推断攻击的去偏学习（DL-MIA）框架，其包含四个主要组件：(1) 差异向量生成器，(2) 解耦编码器，(3) 权重估计器，(4) 攻击模型。为缓解推荐系统间的差距，设计了一种基于变分自编码器（VAE）的解耦编码器来识别推荐系统的不变特征与特定特征。为降低估计偏差，我们设计了一个权重估计器，为每个差异向量分配一个真值水平分数以指示估计准确度。我们在三个真实世界数据集上针对通用推荐系统与序列推荐系统评估了 DL-MIA。实验结果表明，DL-MIA 同时有效缓解了训练偏差与估计偏差，并取得了最先进的攻击性能。
引用
@article{arxiv.2206.12401,
title = {Debiasing Learning for Membership Inference Attacks Against Recommender Systems},
author = {Zihan Wang and Na Huang and Fei Sun and Pengjie Ren and Zhumin Chen and Hengliang Luo and Maarten de Rijke and Zhaochun Ren},
journal= {arXiv preprint arXiv:2206.12401},
year = {2022}
}
备注
Accepted by KDD 2022