GRACE 伴老：基于离散键值适配器的终身模型编辑
机器学习
2023-10-19 v5
摘要
已部署的语言模型会因输入漂移、用户需求变化或涌现的世界知识缺口而随时间退化。当识别出此类问题时，我们希望进行针对性编辑，同时避免昂贵的重训练。然而，当前修改预训练模型此类行为的模型编辑器，在多次顺序编辑下会迅速降低模型性能。我们提出 GRACE，一种终身模型编辑方法，它对已部署模型的流式错误实施定点修复，确保对不相关输入的最小影响。GRACE 将新映射写入预训练模型的潜空间，创建离散的局部编辑码本，而不改变模型权重。这是首个仅使用流式错误即可实现数千次顺序编辑的方法。我们在 T5、BERT 与 GPT 模型上的实验表明，GRACE 在做出并保留编辑的同时泛化至未见输入方面具有最先进的性能。我们的代码见 https://www.github.com/thartvigsen/grace。
引用
@article{arxiv.2211.11031,
title = {Aging with GRACE: Lifelong Model Editing with Discrete Key-Value Adaptors},
author = {Thomas Hartvigsen and Swami Sankaranarayanan and Hamid Palangi and Yoon Kim and Marzyeh Ghassemi},
journal= {arXiv preprint arXiv:2211.11031},
year = {2023}
}
备注
Accepted to NeurIPS 2023