利用知识图谱与 LLM 结构化生成虚假信息
人工智能
2025-06-02 v1 计算与语言
社会与信息网络
摘要
虚假信息的快速传播，在生成式 AI 最新进展的进一步放大下，对社会构成了重大威胁，影响了公众舆论、民主稳定和国家安全。为了理解并主动评估这些威胁，需要探索能够实现结构化、可扩展的虚假信息生成的方法论。在本文中，我们提出了一种新方法，利用知识图谱 (KGs) 作为结构化语义资源来系统地生成虚假三元组。通过分析 KG 的结构特性（例如实体及其谓词之间的距离），我们识别出看似合理但虚假的关系。随后，这些三元组被用于指导大语言模型 (LLMs) 生成具有不同可信度的虚假信息陈述。通过利用结构化的语义关系，我们的确定性方法仅依赖公开可用的 KG（例如 WikiGraphs），生成人类难以察觉的虚假信息。此外，我们研究了 LLM 在区分真实与人工生成虚假信息方面的有效性。我们的分析突出了当前基于 LLM 的检测方法的重大局限性，强调了增强检测策略的必要性，以及深入探索生成模型中固有偏见的必要性。
引用
@article{arxiv.2505.24479,
title = {Leveraging Knowledge Graphs and LLMs for Structured Generation of Misinformation},
author = {Sania Nayab and Marco Simoni and Giulio Rossolini},
journal= {arXiv preprint arXiv:2505.24479},
year = {2025}
}