基于知识 grounding 推理的内容检测方法
计算与语言
2025-05-01 v1 社会与信息网络
摘要
内容篡改检测是近年来假新闻研究的一个热门领域。虽然现有方法在基于历史事件的事实核查和假新闻分析方面效果良好，但依赖于训练期获得的内在知识或手动策划的上下文会限制其处理零日（zero-day）篡改内容的能力，这类内容只能通过实时上下文信息进行识别。本文提出了 Manicod，一款用于检测零日篡改内容的工具。Manicod 首先从主流搜索引擎中获取输入主张的上下文信息，随后通过检索增强生成 (RAG) 将该上下文向量化供大语言模型 (LLM) 使用。基于 LLM 的推理可生成“真实”或“篡改”决策，并提供该决策的文本解释。为验证 Manicod 的有效性，我们还构建了一个包含 4270 条由 2500 条近期真实新闻标题衍生的篡改假新闻数据集。Manicod 在该数据集上获得了 0.856 的总体 F1 分数，并在事实核查和主张验证基准测试中超越现有方法 1.9 倍。
引用
@article{arxiv.2504.21165,
title = {Detecting Manipulated Contents Using Knowledge-Grounded Inference},
author = {Mark Huasong Meng and Ruizhe Wang and Meng Xu and Chuan Yan and Guangdong Bai},
journal= {arXiv preprint arXiv:2504.21165},
year = {2025}
}
备注
16 pages