具理论保证的差分隐私域适应

在许多应用中，学习者可用的带标签数据受隐私约束且相对有限。为推导针对目标域更精确的预测器，利用来自与目标域较接近的替代域的公开带标签数据通常是有益的。这是从公共源域到私有目标域的监督域适应的现代问题。我们提出两种用于监督适应的 $(\epsilon, \delta)$-差分隐私适应算法，为此我们借助一个通用优化问题，该问题近期被证明具有有利的理论学习保证。我们的第一种算法针对线性预测器的回归设计，并被证明求解一个凸优化问题。第二种算法是针对可能非凸但 Lipschitz 且光滑的损失函数的更通用解。尽管我们的主要目标是理论分析，我们也报告了若干实验结果：首先表明我们算法的非隐私版本优于域适应基线，其次显示对于更大的目标样本量或 $\epsilon$，我们私有算法的性能仍接近非隐私公式。