中文

QuanTemp:一个用于事实核查数值声明的真实世界开放域基准

计算与语言 2024-05-02 v3 人工智能

摘要

自动事实核查因应对数字时代日益增长的虚假信息而获得了极大关注。现有系统主要关注维基百科上的合成声明,在真实世界声明方面也取得了显著进展。在这项工作中,我们发布了 QuanTemp,一个多样化、多领域的数据集,专门关注数值声明,涵盖时间、统计和多种方面,具有细粒度元数据和无泄漏的证据收集。这解决了验证真实世界数值声明的挑战,这些声明复杂且往往缺乏精确信息,而现有工作主要关注合成声明,未能解决这一问题。我们评估并量化了现有解决方案在验证数值声明任务上的局限性。我们还评估了基于声明分解的方法、基于数值理解的模型,我们最好的基线模型达到了 58.32 的宏观 F1 值。这表明 QuanTemp 可作为数值声明验证的一个具有挑战性的评估集。

关键词

引用

@article{arxiv.2403.17169,
  title  = {QuanTemp: A real-world open-domain benchmark for fact-checking numerical claims},
  author = {Venktesh V and Abhijit Anand and Avishek Anand and Vinay Setty},
  journal= {arXiv preprint arXiv:2403.17169},
  year   = {2024}
}

备注

11 pages, 1 figure,Accepted for publication at the 47th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR 2024)