大语言模型中佐证式与贡献式归因的统一框架
计算与语言
2023-11-22 v1
摘要
随着围绕大语言模型（LLM）的业务、产品和服务不断涌现，这些模型的可信度取决于其输出的可验证性。然而，解释语言模型输出的方法主要分散在两个不同的研究领域，二者均使用“归因（attribution）”一词指代完全不同的技术：引文生成与训练数据归因。在许多现代应用中，例如法律文档生成和医学问答，这两类归因都十分重要。在本文中，我们主张并提出了一种大语言模型归因的统一框架。我们展示了不同类型的现有归因方法如何归入该统一框架之下。我们还利用该框架讨论了需要其中一类或两类归因的实际用例。我们相信，这一统一框架将指导以用例为驱动、利用两类归因的系统的开发，以及其评估的标准化。
引用
@article{arxiv.2311.12233,
title = {Unifying Corroborative and Contributive Attributions in Large Language Models},
author = {Theodora Worledge and Judy Hanwen Shen and Nicole Meister and Caleb Winston and Carlos Guestrin},
journal= {arXiv preprint arXiv:2311.12233},
year = {2023}
}
备注
NeurIPS ATTRIB Workshop 2023