从公共源域进行私有域适应
机器学习
2022-08-15 v1 密码学与安全
机器学习
摘要
在多种应用中，一个关键问题是从公共源域到私有目标域的域适应：前者拥有相对大量无隐私约束的标注数据可供使用，而后者仅有一个私有样本且标注数据极少或没有。在无源域或目标域数据隐私约束的回归问题中，基于若干理论保证的差异最小化算法被证明优于许多其他适应算法基线。基于该方法，我们设计了从具有公共标注数据的源域到具有无标注私有数据的目标域的基于差异的微分私有算法。我们私有算法的设计与分析关键依赖于我们为加权差异的光滑近似所证明的几个重要性质，例如其关于-范数的光滑性及其梯度的敏感度。我们的解决方案基于Frank-Wolfe与Mirror-Descent算法的私有变体。我们展示了我们的适应算法具有强泛化与隐私保证，并报告了证明其有效性的实验结果。
引用
@article{arxiv.2208.06135,
title = {Private Domain Adaptation from a Public Source},
author = {Raef Bassily and Mehryar Mohri and Ananda Theertha Suresh},
journal= {arXiv preprint arXiv:2208.06135},
year = {2022}
}