RIPPLECOT：通过链式思维（Chain-of-Thought）In-Context Learning 放大知识编辑在语言模型中的涟漪效应

涟漪效应是大型语言模型知识编辑中的一个重要挑战。即，当对单个事实进行编辑时，模型在一系列相关事实中准确更新相关事实方面困难，这通过与链式相关事实相连的多跳问题进行评估。近期策略已摆脱传统参数更新，转而采用更灵活、计算更少的方法，被证明在解决涟漪效应方面更为有效。在上下文学习（ICL）编辑中，使用简单的演示 `Imagine that + 新事实` 来指导 LLM，但在处理复杂的多跳问题时效果不佳，因为新事实本身难以指定此类情景下涉及的事实链。此外，基于记忆的编辑需要维护所有编辑及其相关事实的额外存储，需持续更新以保持有效性。由于存在上述设计限制，挑战仍然存在，Vicuna-7B 在 MQuAKE-cf 数据集上的最高准确率仅为 33.8%。为此，我们提出了 RippleCOT，一种新的 ICL 编辑方法，集成了链式思维（COT）推理。RippleCOT 将演示结构化为 `新事实、问题、思考、答案`，并包含用于识别和分解问题中多跳逻辑的思考组件。这个方法有效地引导模型处理由相关事实链构成的复杂多跳问题。全面的实验表明，RippleCOT 在涟漪效应方面显著优于现有方法，在准确率上实现了 7.8% 至 87.1% 的提升。