仅我的模型在我的数据上：一种保护单一模型并欺骗未授权黑盒模型的隐私保护方法
计算机视觉与模式识别
2024-02-15 v1 机器学习
摘要
深度神经网络广泛应用于现实世界任务，如人脸识别和医学图像分类，其中隐私和数据保护至关重要。如果不加以保护，图像数据可能被利用来推断个人或上下文信息。现有的隐私保护方法（如加密）生成的扰动图像甚至对人类来说也是不可识别的。对抗攻击方法甚至禁止授权利益相关者进行自动推理，限制了商业和广泛采用的实际动力。这项开创性研究通过生成人类可感知的图像来解决一个尚未探索的实际隐私保护用例，这些图像在保持授权模型准确推理的同时，能够规避其他具有相似或不同目标的未授权黑盒模型，并解决了先前的研究空白。所使用的数据集包括用于图像分类的 ImageNet、用于身份分类的 Celeba-HQ 数据集以及用于情感分类的 AffectNet。我们的结果表明，生成的图像可以成功保持受保护模型的准确性，并将未授权黑盒模型在 ImageNet、Celeba-HQ 和 AffectNet 数据集上的平均准确率分别降低至 11.97%、6.63% 和 55.51%。
引用
@article{arxiv.2402.09316,
title = {Only My Model On My Data: A Privacy Preserving Approach Protecting one Model and Deceiving Unauthorized Black-Box Models},
author = {Weiheng Chai and Brian Testa and Huantao Ren and Asif Salekin and Senem Velipasalar},
journal= {arXiv preprint arXiv:2402.09316},
year = {2024}
}