Fawkes：抵御未授权深度学习模型以保护隐私
密码学与安全
2020-10-22 v2 计算机视觉与模式识别
机器学习
机器学习
摘要
当今功能强大的面部识别系统泛滥，对个人隐私构成切实威胁。正如 Clearview.ai 所展示的，任何人都可以搜集互联网数据，在当事人不知情的情况下训练出高精度的个人面部识别模型。我们需要工具来保护自己免受未授权面部识别系统潜在滥用的侵害。遗憾的是，目前尚无实用或有效的解决方案。本文提出 Fawkes，一个帮助个人使其图像对未授权面部识别模型产生免疫的系统。Fawkes 通过帮助用户在发布自己的照片之前添加难以察觉的像素级改动（我们称之为“cloaks”，即隐身衣）来实现这一点。当这些“加隐身衣”的图像被用于训练面部识别模型时，会产生可用的模型，但会持续导致该用户的正常图像被错误识别。我们通过实验证明，无论追踪者如何训练其模型，Fawkes 都能提供 95% 以上的用户识别防护率。即使干净、未加隐身衣的图像“泄露”给追踪者并用于训练，Fawkes 仍能保持 80% 以上的防护成功率。我们在当今最先进的面部识别服务上实现了 100% 的实验成功率。最后，我们表明 Fawkes 对多种试图检测或破坏图像隐身衣的对策具有鲁棒性。
引用
@article{arxiv.2002.08327,
title = {Fawkes: Protecting Privacy against Unauthorized Deep Learning Models},
author = {Shawn Shan and Emily Wenger and Jiayun Zhang and Huiying Li and Haitao Zheng and Ben Y. Zhao},
journal= {arXiv preprint arXiv:2002.08327},
year = {2020}
}