ClaimVer：基于知识图谱的文本主张可解释验证与证据归属
计算与语言
2024-09-24 v4 计算机与社会
机器学习
摘要
在社交媒体和 AI 生成文本的广泛传播背景下，人们验证和信任所接触信息的困难日益加剧。虽然已developed许多事实核查方法和工具，但它们往往缺乏足够的可解释性或细粒度的支持，难以在各种场景中实用。一套易于使用、可接近且能够进行细粒度证据归属的文本验证方法愈发关键。更重要的是，需要通过呈现每项预测的依据来建立用户对该方法的信任，因为研究表明，这显著影响人们对自动化系统信心的程度。不应仅提供简单的整体标签，而是必须局部化并引导用户注意具体问题性内容。在本文中，我们提出了 ClaimVer，一个以用户为中心的框架，通过生成丰富的注释来满足用户的信息和验证需求，从而降低认知负荷。该框架旨在对文本进行全面评估，标出每个主张，针对可信知识图谱（KG）进行验证，呈现证据，并为每项主张预测提供简洁、清晰的解释。最后，该框架引入了归属评分，增强了其在广泛下游任务中的适用性。
引用
@article{arxiv.2403.09724,
title = {ClaimVer: Explainable Claim-Level Verification and Evidence Attribution of Text Through Knowledge Graphs},
author = {Preetam Prabhu Srikar Dammu and Himanshu Naidu and Mouly Dewan and YoungMin Kim and Tanya Roosta and Aman Chadha and Chirag Shah},
journal= {arXiv preprint arXiv:2403.09724},
year = {2024}
}
备注
EMNLP 2024 Findings