用于生物特征数据的连体生成对抗隐私保护器
计算机视觉与模式识别
2018-10-09 v3
摘要
最先进的机器学习算法可能被精心构造的对抗样本所欺骗。因此，对抗样本在AI安全中构成一个具体问题。在本工作中我们反转思路并提出以下问题：我们能否利用对抗样本的力量，防止恶意对手从数据中学习身份信息，同时允许非恶意实体从同一数据的效用中获益？例如，我们能否使用对抗样本对人脸生物特征数据集进行匿名化，同时保留该数据用于其他目的（如情绪识别）的可用性？为解答此问题，我们提出一种简单而有效的方法，称为连体生成对抗隐私保护器（SGAP），其利用连体神经网络的性质来寻找传达身份信息的判别性特征。当与生成模型结合时，我们的方法能够正确定位并伪装身份信息，同时最小化降低隐私化数据集的效用。在指纹与卡通人脸生物特征数据集上的广泛评估证实了我们这种简单而有效方法的实用性。
引用
@article{arxiv.1804.08757,
title = {Siamese Generative Adversarial Privatizer for Biometric Data},
author = {Witold Oleszkiewicz and Peter Kairouz and Karol Piczak and Ram Rajagopal and Tomasz Trzcinski},
journal= {arXiv preprint arXiv:1804.08757},
year = {2018}
}
备注
Paper accepted to ACCV 2018 (Asian Conference on Computer Vision)