面向大型语言模型的 per 参数任务算术
机器学习
2026-01-30 v1
摘要
在大型语言模型（LLM）无记忆中，需要去除私有信息。任务算术通过减去特定任务向量（TV）来实现无记忆——该任务向量定义为隐私信息调优模型与原始模型之间的参数差。虽然该方法高效，但可能通过破坏维持其他信息所必需的参数来导致过度遗忘。基于我们观察到的每个参数在忘记与保留方面具有不同重要性的事实，我们提出了一种 per 参数任务算术（PerTA）机制，用于对 TV 进行比例调整，实现 per 参数调整。这些权重量化了每个参数对于忘记与保留的相对重要性，通过梯度（即 PerTA-grad）或对角 Fisher 信息近似（即 PerTA-fisher）来估计。此外，我们讨论了 PerTA的有效性，将其扩展为更通用的形式，并提供进一步分析。大量实验表明，PerTA 在忘记效果和整体模型实用性方面均一致优于标准 TV，在许多情况下甚至优于广泛使用的基于训练的无记忆方法。通过保留任务算术的效率，同时缓解过度遗忘，PerTA 提供了一个原则且实用的 LLM 无记忆框架。
引用
@article{arxiv.2601.22030,
title = {Per-parameter Task Arithmetic for Unlearning in Large Language Models},
author = {Chengyi Cai and Zesheng Ye and Jiangchao Yao and Jianzhong Qi and Bo Han and Xiaolu Zhang and Feng Liu and Jun Zhou},
journal= {arXiv preprint arXiv:2601.22030},
year = {2026}
}