DISCO：面向深度神经网络的动态且不变的敏感通道混淆方法
计算机视觉与模式识别
2021-06-16 v2 人工智能
摘要
近期的深度学习模型在图像分类中展现出卓越性能。尽管这些深度学习系统正逐步走向实际部署，但关于数据的常见假设是其中不包含任何敏感信息。这一假设在许多实际场景中可能并不成立，尤其是在涉及个人信息的领域，如医疗健康和人脸识别系统。我们认为，在该隐空间中选择性地移除特征能够保护敏感信息并提供更优的隐私-效用权衡。为此，我们提出 DISCO，其学习一种动态且数据驱动的剪枝滤波器，以在特征空间中选择性地混淆敏感信息。我们针对敏感输入与属性提出了多种攻击方案，并通过定量与定性评估证明了 DISCO 相对于最先进方法的有效性。最后，我们还发布了一个包含 100 万条敏感表示的评估基准数据集，以鼓励对新型攻击方案的严谨探索。
引用
@article{arxiv.2012.11025,
title = {DISCO: Dynamic and Invariant Sensitive Channel Obfuscation for deep neural networks},
author = {Abhishek Singh and Ayush Chopra and Vivek Sharma and Ethan Garza and Emily Zhang and Praneeth Vepakomma and Ramesh Raskar},
journal= {arXiv preprint arXiv:2012.11025},
year = {2021}
}
备注
Presented at CVPR 2021