重新审视图像生成模型中的机器遗忘

随着图像生成模型的激增和广泛应用，数据隐私和内容安全已成为主要关注点，并引起了用户、服务提供商和决策者的高度关注。机器遗忘被认为是应对这些挑战的一种经济高效且有前景的手段。尽管取得了一些进展，但图像生成模型遗忘在实践中仍面临显著的差距，例如任务区分和遗忘指南不明确、缺乏有效的评估框架以及不可靠的评估指标。这些都会阻碍对遗忘机制的理解和实用遗忘算法的设计。我们对现有的最先进遗忘算法和评估标准进行了详尽的评估，并发现了 IGMU 任务中的几个关键缺陷和挑战。受这些局限性驱动，我们做出了几项核心贡献，以促进对 IGMU 的全面理解、标准化分类和可靠评估。具体而言，(1) 我们设计了 CatIGMU，一个新颖的分层任务分类框架。它为 IGMU 提供了详细的实施指导，有助于遗忘算法的设计和测试平台的构建。(2) 我们引入了 EvalIGMU，一个全面的评估框架。它包含跨越五个关键方面的可靠定量指标。(3) 我们构建了 DataIGM，一个高质量的遗忘数据集，可用于 IGMU 的广泛评估、训练用于判断的内容检测器以及对最先进遗忘算法进行基准测试。通过 EvalIGMU 和 DataIGM，我们发现大多数现有的 IGMU 算法无法在不同的评估维度上很好地处理遗忘，特别是在保留性和鲁棒性方面。代码和模型可在 https://github.com/ryliu68/IGMU 获取。