准确、可解释且隐私保护的模型：在提供补救的同时最小化训练数据泄露
机器学习
2023-08-09 v1 密码学与安全
摘要
机器学习模型正日益在具有影响力的领域中用于预测个体结果。因此，许多模型为获得负面结果的个体提供算法补救（algorithmic recourse）。然而，补救可能被对手利用以披露隐私信息。本工作首次尝试缓解此类攻击。我们提出两种生成差分隐私补救的新方法：差分隐私模型（DPM）和拉普拉斯补救（LR）。使用逻辑回归分类器以及真实世界和合成数据集，我们发现 DPM 和 LR 在减少对手可推断的信息方面表现良好，尤其在低误报率（FPR）下。当训练数据集规模足够大时，我们发现新颖的 LR 方法在保持模型和补救准确率的同时，在防止隐私泄露方面取得了特别的成功。
引用
@article{arxiv.2308.04341,
title = {Accurate, Explainable, and Private Models: Providing Recourse While Minimizing Training Data Leakage},
author = {Catherine Huang and Chelse Swoopes and Christina Xiao and Jiaqi Ma and Himabindu Lakkaraju},
journal= {arXiv preprint arXiv:2308.04341},
year = {2023}
}
备注
Proceedings of The Second Workshop on New Frontiers in Adversarial Machine Learning (AdvML-Frontiers @ ICML 2023)