生成式人工智能中机器遗忘的局限性与前景
机器学习
2024-08-02 v1 人工智能
摘要
生成式人工智能（GenAI），旨在从潜变量或其他数据模态中合成真实且多样的数据样本，已在自然语言、图像、音频和图等领域取得了显著成果。然而，它们也对数据隐私、安全和伦理构成了挑战和风险。机器遗忘是从训练模型中移除或削弱特定数据样本或特征影响的过程，而不影响其在其他数据或任务上的性能。虽然机器遗忘在传统机器学习任务中已显示出显著成效，但目前尚不清楚它能否帮助 GenAI 变得更安全并与人类意愿对齐。为此，本文是一篇立场论文，对 GenAI 的机器遗忘方法进行了深入讨论。首先，我们阐述了 GenAI 上的机器遗忘任务问题并介绍了背景。随后，我们通过聚焦两个代表性分支——大语言模型（LLMs）和图像生成（扩散）模型，系统地审视了 GenAI 模型上机器遗忘的局限性。最后，我们主要从三个方面提供了前景展望：基准测试、评估指标和效用-遗忘权衡，并积极倡导该领域的未来发展。
引用
@article{arxiv.2408.00376,
title = {On the Limitations and Prospects of Machine Unlearning for Generative AI},
author = {Shiji Zhou and Lianzhe Wang and Jiangnan Ye and Yongliang Wu and Heng Chang},
journal= {arXiv preprint arXiv:2408.00376},
year = {2024}
}