缓解大语言模型中的地理空间知识幻觉：基准测试与动态事实对齐
计算与语言
2025-07-29 v1 人工智能
机器学习
摘要
大语言模型（LLM）具备包括地理空间知识在内的广泛世界知识，并已成功应用于移动性预测和社会指标预测等多种地理空间任务。然而，LLM 经常生成不准确的地理空间知识，导致地理空间幻觉（地理空间信息的错误或不一致表示），从而损害其可靠性。尽管 LLM 中的一般知识幻觉现象已被广泛研究，但针对地理空间幻觉的系统性评估与缓解仍 largely unexplored。为填补这一空白，我们提出了一个针对地理空间幻觉的综合评估框架，利用结构化地理空间知识图谱进行受控评估。通过对 20 个先进 LLM 的广泛评估，我们揭示了其地理空间知识中的幻觉。基于这些发现，我们引入了一种基于 Kahneman-Tversky 优化（KTO）的动态事实对齐方法来缓解 LLM 中的地理空间幻觉，在所提出的基准上实现了超过 29.6% 的性能提升。大量实验结果证明了我们的基准与学习算法在增强 LLM 地理空间知识与推理任务可信度方面的有效性。
引用
@article{arxiv.2507.19586,
title = {Mitigating Geospatial Knowledge Hallucination in Large Language Models: Benchmarking and Dynamic Factuality Aligning},
author = {Shengyuan Wang and Jie Feng and Tianhui Liu and Dan Pei and Yong Li},
journal= {arXiv preprint arXiv:2507.19586},
year = {2025}
}
备注
19 pages, 9 figures