攻击与重置以实现遗忘：利用对抗噪声通过参数重初始化进行机器遗忘
机器学习
2024-01-18 v1 密码学与安全
计算机视觉与模式识别
摘要
随着对隐私和监管合规的日益关注，机器遗忘的概念日益突出，旨在从已训练模型中选择性地遗忘或擦除特定学习信息。为响应这一关键需求，我们引入一种称为攻击与重置遗忘（Attack-and-Reset for Unlearning, ARU）的新方法。该算法利用精心设计的对抗噪声生成参数掩码，有效重置某些参数并使其不可学习。在两个面部机器遗忘基准数据集 MUFAC 和 MUCAC 上，ARU 优于当前最先进的结果。我们特别展示了攻击与掩码的步骤，这些步骤策略性地过滤并重新初始化偏向遗忘集的网络参数。我们的工作通过利用对抗噪声构建掩码实现参数重初始化，在使数据对深度学习模型不可利用方面代表了一项重大进展。
引用
@article{arxiv.2401.08998,
title = {Attack and Reset for Unlearning: Exploiting Adversarial Noise toward Machine Unlearning through Parameter Re-initialization},
author = {Yoonhwa Jung and Ikhyun Cho and Shun-Hsiang Hsu and Julia Hockenmaier},
journal= {arXiv preprint arXiv:2401.08998},
year = {2024}
}