LLM Attributor：LLM生成的交互式可视化归因

尽管大型语言模型（LLMs）在各类领域展示出惊人的文本生成能力，但其潜在风险的关注度日益增加，凸显了理解文本生成背后原因的重要性。我们提出LLM Attributor—a一个为LLM文本生成提供交互式可视化训练数据归因的Python库。我们的库为快速归因LLM文本生成到训练数据点，以检查模型行为、增强其可信度，并将模型生成的文本与用户提供的文本进行比较。我们描述了该工具的视觉和交互式设计，突出了针对两个不同数据集微调的LLaMA2模型的使用场景：关于近期灾难的在线文章和与金融相关的问答对。得益于LLM Attributor对计算笔记本的广泛支持，用户可以轻松地将其集成到自己的工作流程中，以交互式方式可视化模型的归因。为便于访问和可扩展性，我们在https://github.com/poloclub/LLM-Attribution上开源LLM Attributor。视频演示可在https://youtu.be/mIG2MDQKQxM观看。