利用细粒度反馈的强化检索：针对黑箱 LLM 的新闻主张事实核查
计算与语言
2024-04-29 v1
摘要
检索增强型语言模型在自然语言处理 (NLP) 的各个领域展现出巨大的性能，包括事实关键任务。然而，由于先进大语言模型 (LLM) 的黑箱本质以及特定任务非检索导向的监督信号，训练检索模型在黑箱 LLM 设置下面临着显著挑战。我们提出一种利用细粒度反馈的强化检索方法 (FFRR)，以增强针对新闻主张的事实核查。FFRR 采用两级策略从 LLM 中收集细粒度反馈，作为优化检索策略的奖励，通过对检索文档进行评分以基于非检索任务真实答案为依据。我们在两个公开的数据集上对模型进行评估，用于真实世界的新闻主张验证，结果显示 FFRR 在强 LLM 和非 LLM 的基线方法上均取得显著的改进。
引用
@article{arxiv.2404.17283,
title = {Reinforcement Retrieval Leveraging Fine-grained Feedback for Fact Checking News Claims with Black-Box LLM},
author = {Xuan Zhang and Wei Gao},
journal= {arXiv preprint arXiv:2404.17283},
year = {2024}
}
备注
Accepted by COLING 2024