大语言模型知识编辑的综合研究
摘要
大语言模型 (LLMs) 在理解和生成 closely 模仿人类交流的文本方面展现了非凡的能力。然而，其主要局限性在于训练过程中因参数量巨大而产生的巨大计算需求。这一挑战因世界的动态性质而加剧，需要对 LLMs 进行频繁更新以纠正过时信息或整合新知识，从而确保其持续的相关性。值得注意的是，许多应用需要在训练后对模型进行持续调整，以解决缺陷或不良行为。人们对用于即时模型修改的高效、轻量级方法的兴趣日益浓厚。为此，近年来 LLMs 的知识编辑技术蓬勃发展，旨在特定领域内高效修改 LLMs 的行为，同时保持其在各种输入上的整体性能。在本文中，我们首先定义了知识编辑问题，然后对前沿方法进行了全面综述。受教育和认知研究理论的启发，我们提出了一个统一的分类标准，将知识编辑方法分为三类：利用外部知识、将知识合并到模型中以及编辑内在知识。此外，我们引入了一个新的基准 KnowEdit，用于对代表性知识编辑方法进行全面实证评估。另外，我们提供了对知识定位的深入分析，这有助于更深入地理解 LLMs 内部固有的知识结构。最后，我们讨论了知识编辑的几种潜在应用，概述了其广泛而深远的影响。
引用
@article{arxiv.2401.01286,
title = {A Comprehensive Study of Knowledge Editing for Large Language Models},
author = {Ningyu Zhang and Yunzhi Yao and Bozhong Tian and Peng Wang and Shumin Deng and Mengru Wang and Zekun Xi and Shengyu Mao and Jintian Zhang and Yuansheng Ni and Siyuan Cheng and Ziwen Xu and Xin Xu and Jia-Chen Gu and Yong Jiang and Pengjun Xie and Fei Huang and Lei Liang and Zhiqiang Zhang and Xiaowei Zhu and Jun Zhou and Huajun Chen},
journal= {arXiv preprint arXiv:2401.01286},
year = {2024}
}
备注
Ongoing work (v5): we have updated the Table 4 results after optimizing certain methods (related to AdaLoRA) and fixing computational bugs (related to ROME and MEMIT) in the EasyEdit. These improvements have led to better results than before. We will continue updating this paper and welcome everyone to discuss and exchange ideas