煤矿中的金丝雀：利用集成对抗查询改进成员推断
机器学习
2023-06-02 v2 密码学与安全
摘要
随着工业应用日益由机器学习模型自动化，强制执行个人数据所有权和知识产权要求将训练数据追溯至其合法所有者。成员推断算法通过使用统计技术辨别目标样本是否包含在模型训练集中来解决此问题。然而，现有方法仅利用未改动的目标样本或目标的简单增强来计算统计量。这种对模型行为的稀疏采样携带的信息很少，导致推断能力较差。在这项工作中，我们使用对抗工具直接优化具有判别性和多样性的查询。我们的改进实现了比现有方法显著更准的成员推断，尤其在离线场景和低假阳性率体制下，而后者在法律环境中至关重要。代码见 https://github.com/YuxinWenRick/canary-in-a-coalmine。
引用
@article{arxiv.2210.10750,
title = {Canary in a Coalmine: Better Membership Inference with Ensembled Adversarial Queries},
author = {Yuxin Wen and Arpit Bansal and Hamid Kazemi and Eitan Borgnia and Micah Goldblum and Jonas Geiping and Tom Goldstein},
journal= {arXiv preprint arXiv:2210.10750},
year = {2023}
}
备注
Code is available at https://github.com/YuxinWenRick/canary-in-a-coalmine, published as a conference paper at ICLR 2023