面向隐私保护与任务导向表示的对抗式学习
机器学习
2019-11-25 v1 密码学与安全
计算机视觉与模式识别
摘要
随着数据驱动的深度学习成为现代机器学习系统的重要组成部分,数据隐私已成为一个重要问题。例如,机器学习系统可能面临模型反演攻击的潜在隐私风险,其目标是从深度网络的潜表示重建输入数据。我们的工作旨在学习一种隐私保护且面向任务的表示,以防御此类模型反演攻击。具体而言,我们提出一种对抗式重建学习框架,防止潜表示被解码为原始输入数据。通过模拟攻击者的预期行为,我们的框架通过最小化负像素重建损失或负特征重建(即感知距离)损失来实现。我们在人脸属性预测上验证了所提方法,表明我们的方法能够以效用的小幅下降保护视觉隐私。此外,我们展示了训练时负感知距离损失不同超参数选择下的效用-隐私权衡,使服务提供者能够在特定效用性能下确定适当的隐私保护级别。而且,我们通过对特征、任务和数据的不同选择进行广泛研究,进一步分析它们对隐私保护的影响。
引用
@article{arxiv.1911.10143,
title = {Adversarial Learning of Privacy-Preserving and Task-Oriented Representations},
author = {Taihong Xiao and Yi-Hsuan Tsai and Kihyuk Sohn and Manmohan Chandraker and Ming-Hsuan Yang},
journal= {arXiv preprint arXiv:1911.10143},
year = {2019}
}