虚假信息检测中的不确定性消解
计算与语言
2024-01-03 v1 人工智能
摘要
虚假信息会带来各种风险，例如削弱公众信任和扭曲事实讨论。像GPT-4这样的大语言模型（LLMs）已被证明在缓解虚假信息方面有效，特别是在处理提供了足够上下文的陈述时。然而，它们难以准确评估模糊或缺乏上下文的陈述。本文引入了一种新方法来消解此类陈述中的不确定性。我们提出了一个对缺失信息进行分类的框架，并为LIAR-New数据集发布了类别标签，该框架可适用于包含缺失信息的跨领域内容。然后，我们利用该框架为用户生成有效的查询以获取缺失上下文。与基线相比，我们的方法将生成的问题可由用户回答的比例提高了38个百分点，并将分类性能（宏平均F1）提高了超过10个百分点。因此，该方法可为未来的虚假信息缓解流程提供有价值的组件。
引用
@article{arxiv.2401.01197,
title = {Uncertainty Resolution in Misinformation Detection},
author = {Yury Orlovskiy and Camille Thibault and Anne Imouza and Jean-François Godbout and Reihaneh Rabbany and Kellin Pelrine},
journal= {arXiv preprint arXiv:2401.01197},
year = {2024}
}