学习编辑：将大语言模型与知识编辑对齐
计算与语言
2024-06-06 v2
摘要
知识编辑技术旨在高效修改大语言模型（LLM）中的一小部分知识，而不会对其他输入的性能产生负面影响，已引起广泛关注。然而，现有方法主要依赖于记忆更新后的知识，阻碍了LLM在回答问题时有效地将新知识与固有知识结合起来。为此，我们提出了一个学习编辑（LTE）框架，专注于教导LLM将更新后的知识应用于输入问题，其灵感来源于“授人以渔”的理念。LTE具有两个阶段的过程：（i）对齐阶段，在精心策划的平行数据集上微调LLM，以进行可靠的、范围内的编辑，同时保留范围外的信息和语言能力；（ii）推理阶段，采用基于检索的机制进行实时和大规模知识编辑。通过将我们的方法与七个先进基线在四个流行的知识编辑基准和两种LLM架构上进行对比，我们展示了LTE在知识编辑性能、批量和顺序编辑的鲁棒性、对通用任务的最小干扰以及快速编辑速度方面的优越性。数据和代码可在https://github.com/YJiangcm/LTE获取。
引用
@article{arxiv.2402.11905,
title = {Learning to Edit: Aligning LLMs with Knowledge Editing},
author = {Yuxin Jiang and Yufei Wang and Chuhan Wu and Wanjun Zhong and Xingshan Zeng and Jiahui Gao and Liangyou Li and Xin Jiang and Lifeng Shang and Ruiming Tang and Qun Liu and Wei Wang},
journal= {arXiv preprint arXiv:2402.11905},
year = {2024}
}
备注
17 pages, 8 figures, 9 tables. ACL 2024 main camera-ready version