透视语言模型的思维：面向情境问答的归因方法
计算与语言
2024-05-29 v1
摘要
随着生成式人工智能领域的不断提升，情境问答变得愈发重要。将模型生成归因于输入源文档对于确保可信度和可靠性至关重要。我们观察到，当大型语言模型用于情境问答时，输出答案常由从输入提示中逐字复制的文本构成，这些文本与由模型生成的“黏合文本”拼接而成。针对此现象，我们提出语言模型从本质上意识到文本复制来源，可能体现在模型的隐藏状态中。我们引入一种新颖的情境问答归因方法，利用大型语言模型的隐藏状态表示。该方法无需 extensive 模型重新训练和检索模型开销，能够提供细粒度的归因并保持生成答案的质量。我们的实验结果表明，该方法在识别大型语言模型生成中逐字复制片段并将其归因于其来源方面，性能与 GPT-4相当或更好。重要的是，该方法在 various 大型语言模型架构上表现出色，凸显其广泛适用性。此外，我们提出了 Verifiability-granular，一套用于情境问答设置中大型语言模型生成的归因数据集，包含 token 级别的注释。
引用
@article{arxiv.2405.17980,
title = {Peering into the Mind of Language Models: An Approach for Attribution in Contextual Question Answering},
author = {Anirudh Phukan and Shwetha Somasundaram and Apoorv Saxena and Koustava Goswami and Balaji Vasan Srinivasan},
journal= {arXiv preprint arXiv:2405.17980},
year = {2024}
}