BetaEdit：基于零空间约束的顺序模型编辑
计算与语言
2026-05-12 v1
摘要
零空间方法在模型编辑中引起广泛关注，通过约束更新位于现有知识表示的零空间，从而保留模型的原始行为。然而，这些方法在实践中依赖于近似零空间——导致知识泄漏，并在顺序编辑中进一步出现严重的性能下降。最近的工作表明，历史感知编辑策略可实证缓解这一下降，但其背后的原因尚不清楚。本文首先揭示了现有零空间方法中固有的知识泄漏问题，然后分析了为何历史感知更新在长期程度编辑中有效保留编辑性能和通用能力。基于这些见识，我们提出BetaEdit—a种精炼框架，有效控制知识泄漏，并将历史感知更新集成到零空间范式中。在三个大型语言模型上进行的广泛实验表明，BetaEdit在大规模顺序编辑的具有挑战性的情境下 consistently 优于先前方法。代码可在：https://github.com/lbq8942/BetaEdit获取。
引用
@article{arxiv.2605.09285,
title = {BetaEdit: Null-Space Constrained Sequential Model Editing},
author = {Bingqing Liu and Wei Liu and Yuhua Li},
journal= {arXiv preprint arXiv:2605.09285},
year = {2026}
}