GenerationPrograms：基于可执行程序的细粒度归因

最近的大型语言模型（LLMs）在源条件文本生成方面取得了令人瞩目的性能，但往往未能正确提供其输出的细粒度归因，削弱了可验证性和可信度。此外，现有的归因方法并未解释模型如何以及为何利用提供的源文档来生成最终响应，限制了可解释性。为克服这些挑战，本文引入一种模块化的生成框架——GenerationPrograms，灵感来自最近在可执行"代码智能体"架构方面的进展。不同于同时生成输出和归因或依赖事后归因的常规生成方法，GenerationPrograms将过程分解为两个 distinct 阶段：首先，创建一套针对查询量身定制的模块化文本操作（如改写、压缩和融合）的可执行程序计划；其次，按照程序指定的指令执行这些操作以生成最终响应。经验评估表明，GenerationPrograms在两个长篇问答任务和一个多文档摘要任务中，分别在文档层面和句子层面显著提升了归因质量。我们进一步展示了GenerationPrograms可有效作为事后归因方法，凭借在恢复准确归因方面的表现超越传统技术。此外，GenerationPrograms生成的可解释程序使我们能够通过模块化层面的改进实现局部细化，从而进一步提升整体归因质量。