通过学习高效细粒度批判生成以应对误information
计算与语言
2025-06-09 v1
摘要
虚假新闻和误information 构成对社会的重大威胁，因而高效的缓解措施至关重要。然而，人工事实核查成本高昂且缺乏可扩展性。大型语言模型 (LLM) 在自动生成反驳性响应以缓解误information 方面展现了巨大潜力，但其关键挑战在于倾向于生成非事实信息。现有模型主要依赖 LLM 自我反馈以减少幻觉现象，但该方法计算成本高。本文提出了 MisMitiFact，即基于事实的误information 缓解框架，旨在高效生成事实依据的反驳性响应。MisMitiFact 生成简洁的批判性反馈以细化 LLM 输出，确保响应基于证据。我们开发了轻量级、细粒度的批判模型，其训练数据来源于可获取的事实核查网站，用于识别和纠正 LLM 生成文本中的关键要素，如数值、实体和主题等方面的错误。实验表明，MisMitiFact 生成的反驳性响应质量相当于 LLM 自我反馈，同时使用的数据更小且批判模型更高效。重要的是，它在反馈生成吞吐量上实现了约5倍的提升，使其在大规模误information 缓解方面具有高度适用性。代码和 LLM 提示模板可在 https://github.com/xxfwin/MisMitiFact 查阅。
引用
@article{arxiv.2506.05924,
title = {Generating Grounded Responses to Counter Misinformation via Learning Efficient Fine-Grained Critiques},
author = {Xiaofei Xu and Xiuzhen Zhang and Ke Deng},
journal= {arXiv preprint arXiv:2506.05924},
year = {2025}
}
备注
accepted to IJCAI 2025