面向实时知识编辑的语言模型对齐

知识编辑旨在高效修改语言模型中过时的知识，同时保留其原始能力。主流的知识编辑数据集主要是静态的，无法跟上不断演变的现实世界知识。在本工作中，我们引入了 CRAFT，一个持续演进的现实世界数据集，用于知识编辑。它评估了模型在时域局部性、常识局部性、组合可移植性和别名可移植性方面的表现，为知识编辑提供了全面且具挑战性的评估，此前的方法几乎无法在此基础上实现平衡的性能。为了实现灵活的实时知识编辑，我们提出了 KEDAS，即一种具有多样化编辑增强和自适应后对齐推理的知识编辑对齐新范式，在 CRAFT 和传统数据集上均显示出显著的性能提升。我们希望本工作可能作为将知识编辑焦点从静态更新转向动态演进的催化剂。