InstructEdit：基于指令的大语言模型知识编辑
计算与语言
2024-04-30 v2 人工智能
计算机视觉与模式识别
人机交互
机器学习
摘要
大语言模型的知识编辑可以提供一种高效的解决方案，在不负面影响整体性能的情况下改变模型行为。然而，当前的方法在不同任务间的泛化能力有限，需要为每个任务配备一个独立的编辑器，这严重阻碍了更广泛的应用。为解决这一问题，我们率先分析了知识编辑中的多任务泛化问题。具体而言，我们开发了一种基于指令的编辑技术，称为 InstructEdit，它利用简单的指令促进编辑器同时适应各种任务性能。对于每个 LLM 仅需一个统一的编辑器，我们通过实证证明 InstructEdit 可以提高编辑器的控制能力，在多任务编辑设置中将可靠性平均提高了 14.86%。此外，涉及保留未见任务的实验表明，InstructEdit 始终优于之前的强基线。为了进一步研究基于指令的知识编辑的潜在机制，我们分析了编辑梯度方向的主成分，揭示了指令可以帮助控制优化方向并具有更强的 OOD 泛化能力。代码和数据集可在 https://github.com/zjunlp/EasyEdit 获取。
引用
@article{arxiv.2402.16123,
title = {InstructEdit: Instruction-based Knowledge Editing for Large Language Models},
author = {Ningyu Zhang and Bozhong Tian and Siyuan Cheng and Xiaozhuan Liang and Yi Hu and Kouying Xue and Yanjie Gou and Xi Chen and Huajun Chen},
journal= {arXiv preprint arXiv:2402.16123},
year = {2024}
}
备注
IJCAI 2024; the project website is at https://www.zjukg.org/project/InstructEdit/