上下文学习图谱：注意力头如何塑造上下文检索增强

大型语言模型能够利用上下文学习，通过检索增强来访问其训练数据之外的外部知识。尽管前景广阔，但其内部工作机制仍不明确。在这项工作中，我们通过将提示视为信息组件的组合，揭示了用于问答的上下文检索增强机制。我们提出了一种基于归因的方法来识别专门的注意力头，揭示了理解指令并检索相关上下文信息的上下文头，以及存储实体关系知识的参数头。为了更好地理解它们的作用，我们提取了功能向量并修改了它们的注意力权重，以展示它们如何影响答案生成过程。最后，我们利用所获得的见解来追踪推理过程中使用的知识来源，为构建更安全、更透明的语言模型铺平了道路。