RelaxLoss：在不损失效用的前提下防御成员推断攻击
机器学习
2022-07-14 v1 密码学与安全
摘要
作为对训练数据隐私的长期威胁，成员推断攻击（MIAs）普遍出现在机器学习模型中。已有工作表明，训练与测试损失分布的可区分性与模型对 MIAs 的脆弱性之间存在强关联。受现有结果启发，我们提出一种基于松弛损失（relaxed loss）的新型训练框架，其具有更易实现的学习目标，从而缩小了泛化差距并减少了隐私泄露。RelaxLoss 适用于任何分类模型，并具有易于实现与开销可忽略的额外好处。通过在五个具有不同模态（图像、医疗数据、交易记录）的数据集上进行广泛评估，我们的方法在抵御 MIAs 的鲁棒性以及模型效用方面始终优于最先进的防御机制。我们的防御是首个能够在保持（甚至提升）目标模型效用的同时抵御大范围攻击的方法。源代码见 https://github.com/DingfanChen/RelaxLoss
引用
@article{arxiv.2207.05801,
title = {RelaxLoss: Defending Membership Inference Attacks without Losing Utility},
author = {Dingfan Chen and Ning Yu and Mario Fritz},
journal= {arXiv preprint arXiv:2207.05801},
year = {2022}
}
备注
International Conference on Learning Representations (ICLR) 2022, 28 pages