Crafter: 针对深度模型上基于反演的身份盗窃的面部特征伪造
密码学与安全
2024-07-03 v1 计算机视觉与模式识别
机器学习
摘要
随着边缘设备（如移动设备）能力的增强和更严格的隐私要求，深度学习应用在边缘预处理敏感原始数据并将特征传输到后端云进行进一步处理已成为一种趋势。一个典型应用是对从不同个体收集的面部图像运行机器学习(ML)服务。为了防止身份盗窃，传统方法通常依赖基于对抗博弈的方法从特征中去除身份信息。然而，此类方法无法防御自适应攻击，即攻击者针对已知防御策略采取反制措施。我们提出Crafter，一种部署在边缘的特征伪造机制，用于保护身份信息免受自适应模型反演攻击，同时确保ML任务在云端正常执行。关键防御策略是将攻击者误导至非私有先验，攻击者从中几乎无法获得关于私有身份的信息。在这种情况下，伪造的特征对于具有自适应模型更新的攻击者而言类似于毒化训练样本。实验结果表明，Crafter成功防御了基本攻击和可能的自适应攻击，这是最先进的基于对抗博弈的方法无法实现的。
引用
@article{arxiv.2401.07205,
title = {Crafter: Facial Feature Crafting against Inversion-based Identity Theft on Deep Models},
author = {Shiming Wang and Zhe Ji and Liyao Xiang and Hao Zhang and Xinbing Wang and Chenghu Zhou and Bo Li},
journal= {arXiv preprint arXiv:2401.07205},
year = {2024}
}