终身知识编辑需要更好的正则化
计算与语言
2025-05-22 v2 人工智能
机器学习
摘要
知识编辑是提高大语言模型事实性的一种有前景的方法，但近期研究表明，在序列编辑过程中模型会出现显著退化。本文将流行的“定位-编辑”方法形式化为一个两步微调过程，使我们能够精确识别这种退化的根本原因。我们发现，模型退化源于：(1) 内部激活的过度优化，以及 (2) 被编辑矩阵的范数持续增长。为缓解这些问题，我们引入了两种正则化技术：(1) 最可能早停法 (MPES) 和 (2) 显式 Frobenius 范数约束。我们证明，在编辑过程的关键点应用这些简单而有效的正则化技术，可以显著缓解模型退化。结合这些正则化方法，能够将“定位-编辑”方法扩展到 10,000 次编辑，同时将编辑时间减少 42-61%。这些结果表明，有针对性的正则化对于终身知识编辑至关重要。
引用
@article{arxiv.2502.01636,
title = {Lifelong Knowledge Editing requires Better Regularization},
author = {Akshat Gupta and Phudish Prateepamornkul and Maochuan Lu and Ahmed Alaa and Thomas Hartvigsen and Gopala Anumanchipalli},
journal= {arXiv preprint arXiv:2502.01636},
year = {2025}
}