超越硬写入与刚性保留：用于终身大语言模型编辑的软递归最小二乘法
机器学习
2026-05-12 v2
摘要
模型编辑在不重新训练的情况下用新事实或规则更新预训练的大语言模型（LLM），同时保留无关行为。在实际部署中，编辑以长流形式到达，造成了可塑性-稳定性困境：重复的“定位-然后-编辑”式“硬写入”会随时间累积干扰，而刚性保留约束可能仅保护显式约束的方向，允许过去的编辑或未约束的行为发生偏离。我们提出 RLSEdit，一种用于长序列编辑的递归最小二乘编辑器。RLSEdit 将编辑形式化为具有软约束的在线二次优化，最小化累积键值拟合目标以及两个正则化项，这两个正则化项控制与预训练权重和指定锚点映射的偏离。该目标允许一种高效的基于 Woodbury 的在线递归，每次编辑的成本与历史长度无关，仅随当前编辑规模缩放。我们进一步提供了偏离界，以及在多次编辑机制下对遵循-保留权衡的渐近刻画。在 CounterFact 和 ZsRE 上跨多个模型族的实验表明，RLSEdit 可稳定扩展到 10K 次编辑，在编辑成功率和整体稳定性方面均优于强基线，同时保留了早期编辑，并在 GLUE 和保留的推理/代码基准上保持了通用能力。
引用
@article{arxiv.2601.15686,
title = {Beyond Hard Writes and Rigid Preservation: Soft Recursive Least-Squares for Lifelong LLM Editing},
author = {Xinyu Wang and Sicheng Lyu and Yu Gu and Jerry Huang and Peng Lu and Yufei Cui and Xiao-Wen Chang},
journal= {arXiv preprint arXiv:2601.15686},
year = {2026}
}