高效量化与缓解模型编辑中的涟漪效应
计算与语言
2024-10-21 v3
摘要
Large Language Models 以其卓越的效能颠覆了众多任务。然而，编辑这些模型对于纠正过时或错误信息至关重要，这往往会导致隐藏空间中出现一种被称为涟漪效应的复杂问题。虽然这种效应难以检测，但它会严重阻碍模型编辑任务的效能并导致模型性能下降。本文通过提出一种新颖的评估方法 Graphical Impact Evaluation (GIE) 来应对这一科学挑战，该方法定量评估了模型的适应以及编辑的后续影响。此外，我们引入了 Selective Impact Revision (SIR)，这是一种旨在缓解这种涟漪效应的模型编辑方法。我们的全面评估表明，隐藏空间中的涟漪效应是所有当前模型编辑方法中的一个重大问题。然而，我们提出的方法 GIE 和 SIR 有效地识别并缓解了这一问题，推动了 LLM 编辑技术的进步。
引用
@article{arxiv.2403.07825,
title = {Efficiently Quantifying and Mitigating Ripple Effects in Model Editing},
author = {Jianchen Wang and Zhouhong Gu and Xiaoxuan Zhu and Lin Zhang and Haoning Ye and Zhuozhi Xiong and Hongwei Feng and Yanghua Xiao},
journal= {arXiv preprint arXiv:2403.07825},
year = {2024}
}