激励对齐的多源LLM摘要

大型语言模型（LLM）在现代搜索和问答系统中越来越多地被用于将多个有时相互冲突的文本综合成一个单一回答，然而当前的流水线对信息源的准确性提供的激励很弱，且容易受到对抗性内容的影响。我们引入了真实文本摘要（TTS），一个无需真实标签即可提高事实鲁棒性的激励对齐框架。TTS将草稿综合分解为原子声明，获取每个信息源对每条声明的立场，使用一种改编的多任务同伴预测机制对信息源进行评分以奖励信息丰富的共识，并在重新摘要前过滤不可靠的信息源。我们建立了将信息源激励与信息丰富的诚实性对齐的形式化保证，使得如实报告成为效用最大化策略。实验表明，TTS在保持流畅性的同时提高了事实准确性和鲁棒性，将曝光度与信息丰富的佐证相对齐，并抑制了操纵行为。