面向LLM上下文学习数据的快速精确遗忘
机器学习
2025-10-01 v2 人工智能
密码学与安全
摘要
现代机器学习模型训练成本高昂，人们越来越关注从模型中移除特定训练数据的挑战。在深度学习流程中实现精确遗忘——生成模型如同某些数据从未参与训练——仍然是一个开放问题。本文重新审视深度学习中的精确遗忘，并表明对于大型语言模型(LLMs)，我们可以高效地精确遗忘“微调数据”（用于适配预训练模型的数据）。这基于两个观察。首先，我们可以使用上下文学习来使LLM适应微调数据集，而不是基于SGD的算法。其次，我们表明可以通过量化k-means实现准确的上下文学习，从而实现几乎常数时间的遗忘操作。我们的评估表明，这种遗忘方案具有与微调替代方案相似的性能，但大大降低了遗忘成本。我们的研究还强调了在调整学习算法以实现更快遗忘操作时，需要新的遗忘成本度量。
引用
@article{arxiv.2402.00751,
title = {Fast Exact Unlearning for In-Context Learning Data for LLMs},
author = {Andrei I. Muresanu and Anvith Thudi and Michael R. Zhang and Nicolas Papernot},
journal= {arXiv preprint arXiv:2402.00751},
year = {2025}
}