Segmentations-Leak：语义图像分割中的成员推断攻击与防御
计算机视觉与模式识别
2020-09-22 v2
摘要
当今语义分割最先进方法的成功由大型数据集驱动。数据被视为需要保护的重要资产，因为此类数据集的收集与标注需付出巨大努力及相关成本。此外，视觉数据可能包含私人或敏感信息，同样不适合公开发布。遗憾的是，近期在对抗机器学习更广泛领域以及针对机器学习模型的推断攻击中关于成员推断的研究表明，即便是黑盒分类器也会泄露其训练所用数据集的信息。我们证明此类成员推断攻击可成功应用于复杂的、最先进的语义分割模型。为缓解相关风险，我们还研究了一系列针对此类成员推断攻击的防御措施，并发现了针对现有风险的有效对策，且对分割方法的效用影响甚微。最后，我们在多个相关真实世界数据集上广泛评估了攻击与防御：Cityscapes、BDD100K 和 Mapillary Vistas。
引用
@article{arxiv.1912.09685,
title = {Segmentations-Leak: Membership Inference Attacks and Defenses in Semantic Image Segmentation},
author = {Yang He and Shadi Rahimian and Bernt Schiele and Mario Fritz},
journal= {arXiv preprint arXiv:1912.09685},
year = {2020}
}
备注
Accepted to ECCV 2020. Code at: https://github.com/SSAW14/segmentation_membership_inference