Scissorhands:基于网络中连接敏感性的数据影响擦除
机器学习
2024-07-18 v3 计算机视觉与模式识别
摘要
机器遗忘已成为一项关键任务,旨在从已训练模型中擦除数据的影响。它遵循近期的数据监管标准,并增强机器学习应用的隐私与安全性。本文提出一种新的机器遗忘方法Scissorhands。首先,Scissorhands通过连接敏感性识别给定模型中与待遗忘数据最相关的参数。通过重新初始化这些参数中最具影响力的前百分之k,得到一个用于擦除遗忘数据影响的修剪模型。随后,Scissorhands采用基于梯度投影的方法微调修剪后的模型,寻找既能保留剩余数据信息又能丢弃遗忘数据相关信息的参数。我们在图像分类和图像生成任务上的实验结果表明,Scissorhands与现有方法相比展现出具有竞争力的性能。源代码见https://github.com/JingWu321/Scissorhands。
引用
@article{arxiv.2401.06187,
title = {Scissorhands: Scrub Data Influence via Connection Sensitivity in Networks},
author = {Jing Wu and Mehrtash Harandi},
journal= {arXiv preprint arXiv:2401.06187},
year = {2024}
}
备注
Machine Unlearning, Deep Learning, Diffusion Model