FactAlign：面向大语言模型长篇事实性对齐的框架

大型语言模型已展示出作为下一代信息检索引擎的巨大潜力。然而，其可靠性因幻觉和生成非事实内容的问题而受到阻碍。这在长篇回复中尤其棘手，因为评估和确保事实准确性颇为复杂。本文通过提出 FactAlign，一种旨在提升大语言模型长篇回复事实性同时保持其有用性的新型对齐框架来解决这一空白。我们引入 fKTO，一种细粒度的句子级对齐算法，将卡恩曼-特沃尔斯基优化（Kahneman-Tversky Optimization，KTO）对齐方法向细化。利用近期在自动事实性评估方面的进展，FactAlign 利用细粒度事实性评估来指导对齐过程。我们在开放域提示和信息寻求问题上的实验表明，FactAlign 在显著提升大语言模型回复的事实准确性的同时，也改善了其有用性。进一步分析识别出 FactAlign 能够在不损失事实精确度的情况下，让模型提供更多信息，从而提升事实 F1 分数。我们的源代码、数据集和训练好的模型已在 https://github.com/MiuLab/FactAlign 上公开 availble。