探索视觉提示在差分隐私中的益处
计算机视觉与模式识别
2023-08-31 v2 密码学与安全
机器学习
摘要
视觉提示（VP）是一种新兴且强大的技术，它通过改造一个训练良好的冻结源模型，实现对下游任务的高效样本适配。在本工作中，我们探索VP在构建具有差分隐私（DP）的引人注目的神经网络分类器中的益处。我们将VP探索并整合进典型的DP训练方法，并展示其简洁性与高效性。特别地，我们发现VP与PATE（一种利用来自教师集成的知识迁移的先进DP训练方法）协同，以最小的隐私预算开销实现了最先进的隐私-效用权衡。此外，我们在具有充分领域间隙的跨域图像分类上进行了额外实验，以进一步揭示VP在DP中的优势。最后，我们还进行了广泛的消融研究，以验证在DP考量下VP的有效性与贡献。我们的代码可在(https://github.com/EzzzLi/Prompt-PATE)获取。
引用
@article{arxiv.2303.12247,
title = {Exploring the Benefits of Visual Prompting in Differential Privacy},
author = {Yizhe Li and Yu-Lin Tsai and Xuebin Ren and Chia-Mu Yu and Pin-Yu Chen},
journal= {arXiv preprint arXiv:2303.12247},
year = {2023}
}
备注
Published at ICCV 2023