O-Edit：用于语言模型顺序编辑的正交子空间编辑
计算与语言
2024-10-16 v1
摘要
大型语言模型（LLMs）在预训练期间获取知识，但随着时间的推移，这些知识可能变得不正确或过时， necessitating 在训练后进行更新。知识编辑技术解决了此问题，而无需进行高昂的重新训练。然而，大多数现有方法设计用于单次编辑，当编辑次数增加时，往往会导致模型整体性能下降，为顺序编辑提出了重大挑战。为克服此挑战，我们提出了正交子空间编辑（O-Edit）。该算法对每个知识更新的方向进行正交化，从而最小化连续更新之间的干扰，减少新更新对无关知识的影响。我们的做法不需要重放先前编辑的数据，按时处理每个编辑知识。它可以在主流 LLMs 上执行数千次编辑，在保持下游任务性能的同时，以平均 4.2 倍的性能提升成效最佳方法，所有这些都具有最小的额外参数开销。
引用
@article{arxiv.2410.11469,
title = {O-Edit: Orthogonal Subspace Editing for Language Model Sequential Editing},
author = {Yuchen Cai and Ding Cao},
journal= {arXiv preprint arXiv:2410.11469},
year = {2024}
}