EasyEdit：一个面向大语言模型的易用知识编辑框架
计算与语言
2024-06-25 v3 人工智能
计算机视觉与模式识别
信息检索
机器学习
摘要
大语言模型（LLMs）通常存在知识截止或谬误问题，即由于数据过时或含噪，它们不了解未见过的新事件或生成包含错误事实的文本。为此，许多面向 LLMs 的知识编辑方法应运而生——旨在以微小方式注入/编辑更新后的知识或调整不良行为，同时将对无关输入的影响降至最低。然而，由于各种知识编辑方法之间存在显著差异且任务设置各不相同，学界尚无标准的实现框架，这阻碍了从业者将知识编辑应用于实际场景。为解决这些问题，我们提出 EasyEdit，一个面向 LLMs 的易用知识编辑框架。它支持多种前沿知识编辑方法，并可便捷地应用于 T5、GPT-J、LlaMA 等知名 LLMs。我们通过实验在 LlaMA-2 上基于 EasyEdit 报告了知识编辑结果，表明知识编辑在可靠性和泛化性方面优于传统微调。我们已在 GitHub 上发布源代码，并为初学者提供 Google Colab 教程和详尽文档以便上手。此外，我们展示了一个用于实时知识编辑的在线系统以及一段演示视频。
引用
@article{arxiv.2308.07269,
title = {EasyEdit: An Easy-to-use Knowledge Editing Framework for Large Language Models},
author = {Peng Wang and Ningyu Zhang and Bozhong Tian and Zekun Xi and Yunzhi Yao and Ziwen Xu and Mengru Wang and Shengyu Mao and Xiaohan Wang and Siyuan Cheng and Kangwei Liu and Yuansheng Ni and Guozhou Zheng and Huajun Chen},
journal= {arXiv preprint arXiv:2308.07269},
year = {2024}
}
备注
ACL 2024 System Demonstrations; Code: https://github.com/zjunlp/EasyEdit HF Demo: https://huggingface.co/spaces/zjunlp/EasyEdit Video: https://youtu.be/Gm6T0QaaskU Docs: https://zjunlp.gitbook.io/easyedit