公平性感知的差分隐私协同过滤
信息检索
2023-03-17 v1 密码学与安全
机器学习
摘要
近来，差分隐私引导的算法在隐私保护机器学习任务中的采用日益增多。然而，此类算法的使用伴随着算法公平性方面的权衡，这一点已被广泛认可。具体而言，我们通过实验观察到，由差分隐私随机梯度下降（DP-SGD）训练的经典协同过滤方法，针对不同用户参与程度下的用户群体产生了差异性影响。这反过来使得原本不公平的模型对不活跃用户更加偏见。为解决上述问题，我们提出 \textbf{DP-Fair}，一种基于协同过滤算法的两阶段框架。具体而言，它将差分隐私机制与公平性约束相结合，以在保护用户隐私的同时确保公平推荐。基于 Amazon 数据集以及从大型电商平台之一 Etsy 收集的用户历史日志的实验结果表明，与原始 DP-SGD 相比，我们所提方法在浅层与深层推荐模型上均展现出更优的整体精度与用户群体公平性表现。
引用
@article{arxiv.2303.09527,
title = {Fairness-aware Differentially Private Collaborative Filtering},
author = {Zhenhuan Yang and Yingqiang Ge and Congzhe Su and Dingxian Wang and Xiaoting Zhao and Yiming Ying},
journal= {arXiv preprint arXiv:2303.09527},
year = {2023}
}