DUnE：统一编辑数据集

即便是最先进的语言模型也仍然容易出现错误，这就需要修改这些模型而不启动全面的重训练过程。模型编辑是指以产生期望结果的方式修改模型的知识或表征。先前的研究主要集中于编辑事实数据，例如“梅西效力于国际迈阿密”，将编辑的定义局限于知识三元组，即（主体，客体，关系）。然而，随着语言模型应用的扩展，我们希望编辑和精炼其输出的方式也变得多样。在本研究中，我们将编辑问题的范围拓宽到包含一系列编辑情形，如去偏和纠正推理错误，并将编辑定义为任何引发模型输出改变的自然语言表达。我们引入了 DUnE——一个以自然语言句子作为编辑的编辑基准，并提出 DUnE 呈现了一项具有挑战性但又相关的任务。为证实该主张，我们进行了一系列广泛的实验，测试各种编辑方法来应对 DUnE，展示了它们各自的优劣。我们表明检索增强的语言建模可以胜过专门的编辑技术，且这两类方法都尚未完全解决我们基准所涵盖的通用编辑问题。