新闻摘要中的偏见：度量、陷阱与语料

摘要生成是大型语言模型（LLMs）的一项重要应用。以往大多数摘要模型的评估都集中于其内容选择、忠实性、语法正确性与连贯性。然而，众所周知LLMs会复现并强化有害的社会偏见。这引出一个问题：在摘要这类受限设定下，偏见是否会影响模型输出？为帮助回答该问题，我们首先提出并引入若干摘要模型中偏置行为的定义，以及相应的实用操作化方法。由于我们发现输入文档中固有的偏见会混淆摘要中的偏见分析，我们提出一种生成具有精细控制人口属性输入文档的方法。这使我们能在受控设定下研究摘要器行为，同时仍使用真实输入文档。我们以性别偏见为案例，衡量了专用摘要模型与通用对话模型生成的英文摘要中的性别偏见。我们发现单文档摘要中的内容选择基本不受性别偏见影响，而幻觉表现出偏见证据。为展示我们方法的通用性，我们还额外研究了种族偏见，包括交叉性设定。