关于抽取式问答的机制电路
计算与语言
2025-02-13 v1 机器学习
摘要
大语言模型越来越多地被用于处理文档并促进其上的问答。在我们的论文中，我们为这一现实世界语言建模任务提取机制电路：用于抽取式问答任务的上下文增强语言建模，并理解电路对下游应用（如数据归因到上下文信息）的潜在益处。我们使用因果中介分析技术将电路提取为内部模型组件（如注意力头、MLP）的函数。利用提取的电路，我们首先理解模型对参数化记忆和检索上下文的使用之间的相互作用，以更好地机制化地理解上下文增强语言模型。然后我们在电路中识别出一组少量默认执行可靠数据归因的注意力头，从而在模型的前向传播中免费获得归因。利用这一洞察，我们随后引入ATTNATTRIB，一种快速数据归因算法，在各种抽取式QA基准测试中取得了最先进的归因结果。最后，我们展示了通过使用ATTNATTRIB的归因作为前向传播期间的额外信号，将语言模型引导至从上下文而非参数化记忆中回答的可能性。除了机制理解之外，我们的论文还以可靠数据归因和模型引导的形式提供了电路的实际应用。
引用
@article{arxiv.2502.08059,
title = {On Mechanistic Circuits for Extractive Question-Answering},
author = {Samyadeep Basu and Vlad Morariu and Zichao Wang and Ryan Rossi and Cherry Zhao and Soheil Feizi and Varun Manjunatha},
journal= {arXiv preprint arXiv:2502.08059},
year = {2025}
}