判别对抗隐私：在神经网络中平衡准确率与成员隐私
密码学与安全
2023-06-06 v1 机器学习
摘要
深度学习在各行业的显著扩散凸显了 AI 流水线中数据隐私与安全的重要性。随着复杂的成员推断攻击（MIAs）威胁到用于训练深度学习模型的个体特定信息的机密性，差分隐私（DP）成为保护模型免受恶意攻击的最常用技术之一。然而，尽管具有已证明的理论性质，DP 会显著损害模型性能并增加训练时间，使其在实际场景中的使用不切实际。为解决此问题，我们提出判别对抗隐私（DAP），一种新颖的学习技术，旨在通过实现模型性能、速度与隐私之间的平衡来应对 DP 的局限性。DAP 依赖于基于一种新颖损失函数的对抗训练，该函数能够在最小化预测误差的同时最大化 MIA 的误差。此外，我们引入了一种名为准确率超越隐私（AOP）的新颖度量来刻画性能-隐私权衡。最后，为验证我们的主张，我们将 DAP 与多种 DP 场景进行比较，从性能、时间与隐私保护角度对结果进行分析。
引用
@article{arxiv.2306.03054,
title = {Discriminative Adversarial Privacy: Balancing Accuracy and Membership Privacy in Neural Networks},
author = {Eugenio Lomurno and Alberto Archetti and Francesca Ausonio and Matteo Matteucci},
journal= {arXiv preprint arXiv:2306.03054},
year = {2023}
}