基于图核分析的KEA解释：用于解释幻觉现象
机器学习
2025-08-22 v2 人工智能
摘要
大型语言模型（LLMs）经常生成幻觉：语法上合理但缺乏事实依据的陈述。本研究提出KEA（Kernel-Enriched AI）解释：一种神经符号框架，用于检测并解释此类幻觉，通过将来自LLM输出的知识图构建与来自维基数据或上下文文档的真实数据进行比较。利用图核和语义聚类，该方法为检测到的幻觉提供解释，确保其稳健性和可解释性。我们的框架在检测开放域和封闭域任务中的幻觉方面实现了竞争性的准确率，能够生成对比解释，增强透明度。这项研究推动了LLMs在高风险领域的可靠性，并为未来的精确性改进和多源知识集成提供了基础。
引用
@article{arxiv.2507.03847,
title = {KEA Explain: Explanations of Hallucinations using Graph Kernel Analysis},
author = {Reilly Haskins and Benjamin Adams},
journal= {arXiv preprint arXiv:2507.03847},
year = {2025}
}