你可以使用却无法识别：深度神经网络中的视觉隐私保护
密码学与安全
2024-04-08 v1
摘要
图像数据广泛用于深度神经网络（DNN）任务中，如自动驾驶和医学图像分析，带来了显著隐私 concerns。现有隐私保护技术无法有效保护此类数据。例如，差分隐私（DP）作为一种新兴技术，虽能提供强隐私保证，却无法有效保护暴露图像数据集的视觉特征。本文提出了一种新型隐私保护框架 VisualMixer，通过像素混洗来保护 DNN 任务的训练数据，而不引入任何噪声。VisualMixer 利用一种名为视觉特征熵（VFE）的新型隐私指标，从生物视觉和机器视觉两个方面有效量化图像的视觉特征。在 VisualMixer 中，我们设计了一种面向任务无关的图像隐写方法，用于保护 DNN 训练和推理的数据的视觉隐私。对于每张图像，系统根据所需的 VFE 确定图像中像素混洗的区域及其大小，既在空间域中又在色彩通道空间中对这些区域进行像素混洗，而不引入噪声，从而可防止视觉特征被辨认和识别，同时几乎不影响模型准确率。大量在真实数据集上的实验表明，VisualMixer 能在平均仅损失 2.35 个百分点的模型准确率的情况下有效保护视觉隐私，训练过程几乎没有性能降解。
引用
@article{arxiv.2404.04098,
title = {You Can Use But Cannot Recognize: Preserving Visual Privacy in Deep Neural Networks},
author = {Qiushi Li and Yan Zhang and Ju Ren and Qi Li and Yaoxue Zhang},
journal= {arXiv preprint arXiv:2404.04098},
year = {2024}
}
备注
18 pages, 11 figures