面向平衡取消学习的实用核心集选择：UPCORE
地球与行星天体物理
2025-02-24 v1
摘要
用户规定或法律框架常要求从预训练模型（包括大型语言模型 LLM）中删除特定信息。这需要从已训练好的模型中删除或“忘记”一组数据点，通常会使模型在其他数据点上的性能受到损害。因此，必须在删除信息与保留模型其他能力之间取得平衡，若无法平衡则可能导致删除效果不佳或模型不可用。为此，我们提出 UPCORE（Utility-Preserving Coreset Selection），一种无方法论依赖的数据选择框架，用于减轻取消学习过程中的副作用。我们发现模型损伤与模型在待删除集合上的表示方差相关，通过有选择地修剪待删除集合以移除离群点，从而最小化取消学习后的模型退化。在三种标准取消学习方法下，UPCORE 均实现了删除有效性与模型保持之间的优越平衡。为更好地评估这一权衡，我们引入一种新指标，衡量标准指标下的曲线下面积（AUC）。我们的结果表明，UPCORE 在提升标准指标和 AUC 方面均取得改进，得益于核心集与修剪点之间的正向传递，同时减少了待删除集合对外部点的负向传递。
引用
@article{arxiv.2502.15081,
title = {Evidence for a sub-jovian planet in the young TWA7 disk},
author = {A. -M. Lagrange and C. Wilkinson and M. Mâlin and A. Boccaletti and C. Perrot and L. Matrà and F. Combes and D. Rouan and H. Beust and A. Chomez and B. Charnay and S. Mazevet and O. Flasseur and J. Olofsson and A. Bayo and Q. Kral and G. Chauvin and P. Thebault and P. Rubini and J. Milli and F. Kiefer and A. Carter and K. Crotts and A. Radcliffe and J. Mazoyer and T. Bodrito and S. Stasevic and P. Delorme and M. Langlois},
journal= {arXiv preprint arXiv:2502.15081},
year = {2025}
}
备注
25 pages, 9 figures, submitted to Nature