提高大型语言模型在多文档摘要中的公平性

多文档摘要（MDS）中的公平性对于提供跨文档具有不同社会属性值的全面视图至关重要，这会显著影响决策。例如，倾向于过度代表产品差评的摘要系统可能会误导客户忽视良好产品。以往的研究在两个层面上衡量 MDS 的公平性：摘要层面和语料库层面。虽然摘要层面的公平性关注单个摘要，但语料库层面的公平性关注整个语料库。近期方法主要关注摘要层面的公平性。我们提出了 FairPO，一种聚焦于 MDS 中摘要层面和语料库层面公平性的偏好调优方法。为改善摘要层面的公平性，我们提出通过扰动文档集生成偏好对。为改善语料库层面的公平性，我们提出通过动态调整偏好对的权重实现公平性感知的偏好调优。我们的实验表明，FairPO 在保持摘要关键质量的同时，优于强大的基线方法。代码已公开于 https://github.com/leehaoyuan/coverage_fairnes。