注意力反向：理解和增强大语言模型中的多跳推理

我们研究大语言模型在诸如“Wolfgang Amadeus Mozart 的母亲的配偶是”这类提示中的潜在多跳推理方式。为分析这一过程，我们引入了logit flow（逻辑流）——一种解释性方法，用于追踪logits在各层和位置如何传播以最终预测。通过logit flow，我们识别出单跳知识预测中四个 distinct 阶段：（A）实体主题丰富、（B）实体属性提取、（C）关系主题丰富、（D）关系属性提取。将此分析扩展到多跳推理后发现，失败往往源于关系属性提取阶段，此处存在冲突的logits会降低预测准确率。为此，我们提出了back attention（反向注意力）——一种新型机制，使底层能够在注意力计算中利用来自不同位置的高层隐藏状态。采用反向注意力后，1层Transformer的性能可达2层Transformer的水平。应用于四个大语言模型后，反向注意力在五个推理数据集上提升了准确率，证明了其在增强潜在多跳推理能力方面的有效性。