基于用户表示对抗训练的推荐系统中的隐私与公平性
信息检索
2018-12-19 v3 机器学习
机器学习
摘要
推荐系统的隐因子模型将用户和物品表示为低维向量。此类系统的隐私风险此前主要在从训练数据中以使用记录形式恢复个人信息的背景下被研究。然而，用户表示本身可能连同外部数据一起被用于恢复性别和年龄等私人用户信息。在本文中，我们展示了由常见推荐系统计算出的用户向量可以以这种方式被利用。我们提出隐私对抗框架以消除此类私人信息的泄露，并使用基准数据集在理论和经验上研究了推荐性能与泄露之间的权衡。所提方法的一个优势是它还有助于保证结果的公平性，因为模型所用表示中一组属性的所有隐式知识都被清除，从而无法进入决策过程。我们讨论了该方法在生成更深入和更具洞察力的推荐方面的进一步应用。
引用
@article{arxiv.1807.03521,
title = {Privacy and Fairness in Recommender Systems via Adversarial Training of User Representations},
author = {Yehezkel S. Resheff and Yanai Elazar and Moni Shahar and Oren Sar Shalom},
journal= {arXiv preprint arXiv:1807.03521},
year = {2018}
}
备注
International Conference on Pattern Recognition and Methods