通过数据投毒放大成员暴露风险
密码学与安全
2022-11-02 v1 机器学习
摘要
随着现实世界数据越来越多地参与训练阶段，机器学习应用变得更容易受到数据投毒攻击。此类攻击通常导致测试时准确率下降或受控的误预测。在本文中，我们研究数据投毒的第三类利用方式——增加良性训练样本隐私泄露的风险。为此，我们展示了一组用于放大目标类别成员暴露的数据投毒攻击。我们首先针对监督分类算法提出了一种通用的脏标签攻击。随后，我们在迁移学习场景下提出了一种基于优化的干净标签攻击，其中投毒样本标签正确且看起来“自然”以规避人工审核。我们在计算机视觉基准上广泛评估了我们的攻击。结果表明，所提攻击能在最小整体测试时模型性能下降的情况下大幅提高成员推断精度。为缓解我们攻击的潜在负面影响，我们还研究了可行的对策。
引用
@article{arxiv.2211.00463,
title = {Amplifying Membership Exposure via Data Poisoning},
author = {Yufei Chen and Chao Shen and Yun Shen and Cong Wang and Yang Zhang},
journal= {arXiv preprint arXiv:2211.00463},
year = {2022}
}
备注
To Appear in the 36th Conference on Neural Information Processing Systems (NeurIPS 2022)