生成、判别、演化：通过细粒度句子级自演化提升上下文忠实性
计算与语言
2025-03-04 v1
摘要
提升大型语言模型中的上下文忠实性对于开发可信的检索增强生成系统和缓解幻觉现象尤为重要，尤其是在长篇问答(LFQA)任务或涉及知识冲突的场景中。现有方法要么仅在推理时干预LLM而未能解决其内在局限性，要么忽视自我改进的潜力。本文引入GenDiE(Generate, Discriminate, Evolve)，一种新型自我演化框架，通过细粒度句子级优化提升上下文忠实性。GenDiE结合了生成式和判别式训练，赋予LLM自我生成和自评分能力，以实现迭代自我演化。这支持模型对齐的数据构建以及推理中的评分引导搜索。此外，GenDiE将响应中每一句话视为独立的优化单元，有效解决了以往方法仅在整体答案层面优化的局限性——这些方法可能忽略不忠实的细节。在ASQA(领域内LFQA)和ConFiQA(领域外反事实问答)数据集上的实验表明，GenDiE在忠实性和正确性方面均优于各种基线方法，并在域适应性方面表现出稳健性能。
引用
@article{arxiv.2503.01695,
title = {Generate, Discriminate, Evolve: Enhancing Context Faithfulness via Fine-Grained Sentence-Level Self-Evolution},
author = {Kun Li and Tianhua Zhang and Yunxiang Li and Hongyin Luo and Abdalla Moustafa and Xixin Wu and James Glass and Helen Meng},
journal= {arXiv preprint arXiv:2503.01695},
year = {2025}
}