Ulixes：基于对抗机器学习的面部识别隐私保护
计算机视觉与模式识别
2023-11-17 v2 人工智能
机器学习
摘要
面部识别工具在从图像中识别人方面正变得异常准确。然而，这是以在线照片管理服务（例如社交媒体平台）用户的隐私为代价的。尤其令人不安的是，即使未对用户图像进行标注，也能利用无监督学习来识别人脸。在本文中，我们提出 Ulixes，一种生成视觉上非侵入式面部噪声掩码的策略，这些掩码产生对抗样本，阻止在面部编码器的嵌入空间中形成可识别的用户簇。即使用户未戴口罩且带标注图像可在网上获取，这也适用。我们通过展示各种分类和聚类方法无法可靠地标注我们生成的对抗样本，来证明 Ulixes 的有效性。我们还研究了 Ulixes 在各种黑盒设置中的效果，并将其与当前最先进的对抗机器学习方法进行比较。最后，我们挑战 Ulixes 在对抗训练模型下的有效性，并表明它对反制措施具有鲁棒性。
引用
@article{arxiv.2010.10242,
title = {Ulixes: Facial Recognition Privacy with Adversarial Machine Learning},
author = {Thomas Cilloni and Wei Wang and Charles Walter and Charles Fleming},
journal= {arXiv preprint arXiv:2010.10242},
year = {2023}
}