勿返回相似度：利用距离进行人脸恢复
密码学与安全
2019-08-07 v2
摘要
机器学习（ML）已经集成到各类系统中，帮助开发者以甚至高于人类的准确率解决问题。然而，在将 ML 模型集成到系统中时，开发者可能意外地对其输出不够谨慎，主要由于对 ML 和 AI 的不熟悉，从而导致如损害数据所有者隐私等严重后果。在这项工作中，我们聚焦于理解滥用 ML 模型嵌入（一种重要且流行的 ML 使用方式）的风险。为展示后果，我们揭示了几种嵌入被意外泄露的渠道。如我们的研究所表明，一个政府组织部署的人脸验证系统仅泄露与真实用户的距离，就允许攻击者精确恢复验证器预装照片的嵌入。此外，如我们所发现，利用泄露的嵌入，攻击者可以极易以可忽略的质量损失恢复输入照片，表明对用户隐私的毁灭性后果。这通过我们设计的类 GAN 结构模型实现，该模型在黑盒假设下对流行人脸嵌入模型取得了 93.65% 的成功率。
引用
@article{arxiv.1901.09769,
title = {Do Not Return Similarity: Face Recovery with Distance},
author = {Mingtian Tan and Zhe Zhou},
journal= {arXiv preprint arXiv:1901.09769},
year = {2019}
}