DELL：为大语言模型驱动的虚假信息检测生成反应与解释
计算与语言
2024-07-08 v2
摘要
大语言模型受限于事实性和幻觉问题，难以直接现成地用于判断新闻文章的真实性，而事实准确性至关重要。在本工作中，我们提出了 DELL，识别了虚假信息检测中可将大语言模型作为管道一部分的三个关键阶段：1) 大语言模型可以生成新闻反应以代表多样化的观点并模拟用户 - 新闻交互网络；2) 大语言模型可以为代理任务（例如情感、立场）生成解释，以丰富新闻文章的语境并产生专注于新闻理解各个方面的专家；3) 大语言模型可以合并特定任务的专家，并通过整合不同专家的预测和置信度分数提供总体预测。在七个数据集上使用三个大语言模型进行的广泛实验表明，DELL 在宏观 F1 分数上优于最先进基线高达 16.8%。进一步分析表明，生成的反应和解释对虚假信息检测大有裨益，而我们提出的大语言模型引导的专家合并有助于产生校准更好的预测。
引用
@article{arxiv.2402.10426,
title = {DELL: Generating Reactions and Explanations for LLM-Based Misinformation Detection},
author = {Herun Wan and Shangbin Feng and Zhaoxuan Tan and Heng Wang and Yulia Tsvetkov and Minnan Luo},
journal= {arXiv preprint arXiv:2402.10426},
year = {2024}
}