迈向机器遗忘基准：遗忘人脸识别系统中的个人身份
计算机视觉与模式识别
2023-12-27 v2
摘要
机器遗忘是一种关键工具，可使分类模型遗忘训练时使用的特定数据。近来，多项研究提出了机器遗忘算法并在若干数据集上评估了方法。然而，当前大多数机器遗忘算法仅在传统计算机视觉数据集（如 CIFAR-10、MNIST 和 SVHN）上评估。此外，先前研究通常在类遗忘设定下评估遗忘方法。多数先前工作先训练分类模型，再通过遗忘选定图像类（类别）来实验评估机器遗忘算法的性能。遗憾的是，这些类遗忘设定可能无法推广到真实场景。本工作中，我们提出一种机器遗忘设定，旨在遗忘含个人隐私（身份）的特定实例，同时保持给定模型的原始任务。具体而言，我们提出两个机器遗忘基准数据集 MUFAC 和 MUCAC，对评估机器遗忘算法的性能与鲁棒性极有帮助。在我们的基准数据集中，原始模型执行人脸特征识别任务：人脸年龄估计（多类分类）与人脸属性分类（二分类），其中类别不依赖于任何单一目标主体（个人身份），可视为一种现实设定。此外，我们也报告了 SOTA 机器遗忘方法在提出基准数据集上的性能。所有数据集、源代码及训练模型均发布于 https://github.com/ndb796/MachineUnlearning。
引用
@article{arxiv.2311.02240,
title = {Towards Machine Unlearning Benchmarks: Forgetting the Personal Identities in Facial Recognition Systems},
author = {Dasol Choi and Dongbin Na},
journal= {arXiv preprint arXiv:2311.02240},
year = {2023}
}
备注
Accepted to the AAAI 2024 Workshop on Privacy-Preserving Artificial Intelligence (PPAI)