以人为中心的核查事实 NLP 技术现状
计算与语言
2023-01-10 v1 人工智能
计算机与社会
人机交互
摘要
虚假信息通过助长对科学的不信任、改变公共卫生叙事、加剧社会两极分化以及破坏民主选举和金融市场等诸多社会危害威胁现代社会。为应对此问题，越来越多的专业事实核查员和记者对所谓事实开展高质量调查。然而，这些主要依赖人工的努力难以匹配该问题的巨大规模。作为回应，越来越多的自然语言处理（NLP）技术被提出以实现更具可扩展性的事实核查。尽管此类研究大幅增长，但 NLP 技术用于事实核查的实际应用至今仍处于起步阶段。本工作中，我们综述当前 NLP 技术用于事实核查的能力与局限。我们的特别焦点是进一步勾勒设计空间，以说明如何借助并改进这些技术以更好地满足人工事实核查者的需求。为此，我们综述了基于 NLP 的事实核查的关键方面：任务定义、数据集构建、建模以及以人为中心的策略，如可解释模型与人在回路方法。接下来，我们综述了应用基于 NLP 的事实核查工具辅助人工核查者的成效。我们建议未来研究在 NLP 研究早期即与事实核查者利益相关方合作，并在模型开发中融入以人为中心的设计实践，以进一步引导面向人类使用与实际采纳的技术发展。最后，我们倡导更多关于支持以人为中心的事实核查技术外在评价的基准开发研究。
引用
@article{arxiv.2301.03056,
title = {The State of Human-centered NLP Technology for Fact-checking},
author = {Anubrata Das and Houjiang Liu and Venelin Kovatchev and Matthew Lease},
journal= {arXiv preprint arXiv:2301.03056},
year = {2023}
}
备注
Published in Machine and Human Factors in Misinformation Management -- a special issue of Information Processing and Management