MELO: 基于神经元索引动态 LoRA 的模型编辑增强
计算与语言
2023-12-20 v1
摘要
大型语言模型 (LLM) 在各种自然语言处理 (NLP) 任务中取得了巨大成功,但在部署后仍需更新以修复错误或跟上不断变化的世界知识。研究人员将此类问题表述为模型编辑,并开发了侧重于不同编辑属性维度的各种编辑器。然而,当前的编辑器难以支持所有属性,且依赖大量计算资源。在本文中,我们提出了一种基于神经元索引动态 LoRA (MELO) 的插件式模型编辑方法,该方法通过根据在内部向量数据库中构建的索引动态激活特定的 LoRA 块来改变语言模型的行为。我们的方法高效地满足了各种编辑属性,并且可以轻松集成到多个 LLM 主干中。实验结果表明,我们提出的 MELO 在三个序列编辑任务(文档分类、问答和幻觉纠正)上取得了最先进的编辑性能,同时所需的可训练参数和计算成本最少。
引用
@article{arxiv.2312.11795,
title = {MELO: Enhancing Model Editing with Neuron-Indexed Dynamic LoRA},
author = {Lang Yu and Qin Chen and Jie Zhou and Liang He},
journal= {arXiv preprint arXiv:2312.11795},
year = {2023}
}
备注
In Proceedings of The 38th Annual AAAI Conference on Artificial Intelligence