基于切换集成方法的隐私泄露规避
机器学习
2019-11-20 v1 密码学与安全
机器学习
摘要
我们考虑成员推断攻击，这是机器学习中的主要隐私问题之一。这些近期开发的攻击已被证明能够以确定性的置信度优于随机猜测，判断给定样本是否属于被攻击机器学习模型所训练的数据集。已有若干方法被提出以缓解这种隐私泄露，但这些防御机制在性能上的权衡影响（即被防御机器学习模型的准确性与效用）尚未得到充分研究。我们提出了一种新颖的隐私泄露规避方法——基于切换集成方法的隐私泄露规避（PASE），它既能抵御当前的成员推断攻击，又仅带来极小的准确性损失，同时只需可接受的训练与推理时间增加。我们在三个校准图像数据集上测试了我们的 PASE 方法以及当前最先进的 PATE 方法，并分析了它们的权衡。
引用
@article{arxiv.1911.07921,
title = {Privacy Leakage Avoidance with Switching Ensembles},
author = {Rauf Izmailov and Peter Lin and Chris Mesterharm and Samyadeep Basu},
journal= {arXiv preprint arXiv:1911.07921},
year = {2019}
}