EMA：审计训练模型中的数据移除
机器学习
2021-09-15 v2
摘要
数据审计是一个验证某些数据是否已从训练模型中移除的过程。最近提出的一种方法（Liu等人，2020年）使用柯尔莫哥洛夫-斯米尔诺夫（KS）距离进行此类数据审计。然而，它在某些实际条件下会失效。在本文中，我们提出了一种名为集成成员审计（EMA）的新方法，用于审计数据移除，以克服这些局限性。我们使用基准数据集（MNIST和SVHN）以及胸部X光数据集，通过多层感知机（MLP）和卷积神经网络（CNN）对两种方法进行了比较。我们的实验表明，EMA在各种条件下都具有鲁棒性，包括先前提出方法的失效情况。我们的代码可在以下链接获取：https://github.com/Hazelsuko07/EMA。
引用
@article{arxiv.2109.03675,
title = {EMA: Auditing Data Removal from Trained Models},
author = {Yangsibo Huang and Xiaoxiao Li and Kai Li},
journal= {arXiv preprint arXiv:2109.03675},
year = {2021}
}
备注
MICCAI 2021