私有交替最小二乘:具有更紧速率的实用私有矩阵补全
机器学习
2021-07-22 v1 密码学与安全
机器学习
摘要
我们研究用户级隐私下差分隐私(DP)矩阵补全问题。我们设计了流行的交替最小二乘(ALS)方法的一种联合差分隐私变体,其实现:i)矩阵补全的(近乎)最优样本复杂度(就物品数、用户数而言),以及 ii)已知最好的隐私/效用权衡,无论在理论上还是基准数据集上。特别地,我们首次给出了引入噪声以保证 DP 的 ALS 的全局收敛分析,并表明与已知最佳替代方案(Jain 等人(2018)的私有 Frank-Wolfe 算法)相比,我们的误差界随物品数和用户数的缩放显著更优,这在实际问题中至关重要。在标准基准上的广泛验证表明,该算法与精心设计的采样过程相结合,比现有技术显著更准确,从而有望成为首个实用的 DP 嵌入模型。
引用
@article{arxiv.2107.09802,
title = {Private Alternating Least Squares: Practical Private Matrix Completion with Tighter Rates},
author = {Steve Chien and Prateek Jain and Walid Krichene and Steffen Rendle and Shuang Song and Abhradeep Thakurta and Li Zhang},
journal= {arXiv preprint arXiv:2107.09802},
year = {2021}
}