不仅是云端隐私：在师生学习中保护客户端隐私

确保在训练现代机器学习模型时使用的敏感数据的隐私在许多实践领域至关重要。近期一个研究这些问题的流行方法是使用通过“师生”模型的差分隐私，其中教师向学生提供有用但有噪声的信息，有望使学生在给定任务上表现良好。然而，这些研究仅通过假设学生拥有公共但未标记的数据集来解决教师的隐私问题。在现实中，学生对其未标记数据也有隐私顾虑，因此需要对发送给教师的任何数据提供隐私保护。在这项工作中，我们重新设计了隐私保护“师生”模型，采用私有任意掩码和本地差分隐私，以保护每个学生样本的敏感信息。然而，传统的教师模型训练在任何扰动数据上都不鲁棒。我们使用对抗学习技术来提高扰动样本的鲁棒性，从而在不获取每个学生样本全部隐私信息的情况下返回良好反馈。实验结果证明了我们新隐私保护“师生”模型的有效性。