面向可扩展终身知识编辑：选择性知识抑制
人工智能
2026-04-22 v1
摘要
大语言模型 (LLM) 需要频繁更新知识以反映变化的事实并缓解幻觉。为此，终身知识编辑已作为一种持续方法，用于修改特定知识而无需重新训练整个模型。现有参数编辑方法在顺序编辑期间因灾难性遗忘而面临稳定性挑战。虽然提出了检索式方法来缓解此问题，但由于高训练成本，其适用性在各种数据集上仍受限。为此，我们提出 LightEdit。该框架首先从检索信息中选择相关知识以有效修改查询，然后纳入解码策略以抑制模型原始知识概率，从而实现基于所选信息的高效编辑。在 ZSRE、Counterfact 和 RIPE 基准测试上的广泛实验表明，LightEdit 优于现有终身知识编辑方法。此外，通过最小化训练成本，LightEdit 实现成本效益的可扩展性，使其易于适应各种数据集。
引用
@article{arxiv.2604.19089,
title = {Towards Scalable Lifelong Knowledge Editing with Selective Knowledge Suppression},
author = {Dahyun Jung and Jaewook Lee and Heuiseok Lim},
journal= {arXiv preprint arXiv:2604.19089},
year = {2026}
}