超越局部编辑:基于嵌入虚拟化知识的更广泛评估与知识保留
计算与语言
2026-05-12 v2
摘要
大型语言模型的知识编辑方法通常使用基于预定义基准的评估方式,这些基准评估编辑后的事实以及有限的相关或相邻知识。虽然这些评估有效,但仍局限于有限、受数据集限制的样本,导致对编辑对模型知识体系更广泛影响的了解不足。为此,我们提出了嵌入虚拟化知识(Embedding-Virtualized Knowledge, EVK),通过对嵌入空间中的受控扰动来刻画模型知识,从而能够探索超出显式数据注释的更广泛且虚拟化的知识区域。基于EVK,我们构建了一个嵌入级别的评估基准EVK-Bench,用于量化编辑引起的潜在知识漂移,揭示常规样本基准指标未捕捉到的效应。此外,我们提出了一个即插即用的EVK-Align模块,在编辑过程中约束嵌入级别的知识漂移,可无缝集成到现有编辑方法中。实验表明,我们的方法实现了更全面的评估,同时显著提升了知识保留效果,且不牺牲编辑准确性。
引用
@article{arxiv.2602.01977,
title = {Beyond Local Edits: Embedding-Virtualized Knowledge for Broader Evaluation and Preservation of Model Editing},
author = {Shuainan Liu and Xuanang Chen and Ben He and Le Sun},
journal= {arXiv preprint arXiv:2602.01977},
year = {2026}
}
备注
We voluntarily withdraw this manuscript. Extensive post-submission testing shows the method lacks the originally reported generality and effectiveness. The benchmark metrics originally designed are inadequate for assessing existing model editing algorithms. To avoid misleading the community, we have decided to withdraw this paper and will not release an updated version.