中文

大语言模型具备地理空间知识吗?

计算与语言 2023-10-23 v1

摘要

尽管大语言模型(LLM)在各种自然语言处理任务上表现优异,但人们对其地理数据的理解能力以及促进知情地理空间决策的相关能力知之甚少。本文研究了此类预训练 LLM 中所编码的地理空间知识、意识与推理能力的程度。聚焦于自回归语言模型,我们设计了与以下方面相关的实验方法:(i)探测 LLM 的地理坐标以评估地理空间知识,(ii)使用地理空间与非地理空间介词来衡量其地理空间意识,(iii)利用多维缩放(MDS)实验来评估模型的地理空间推理能力并基于提示确定城市位置。我们的结果证实,从文本信息中综合地理空间知识不仅需要更大的 LLM,还需要更复杂的 LLM。因此,本研究有助于理解 LLM 在处理地理空间信息时的潜力与局限。

关键词

引用

@article{arxiv.2310.13002,
  title  = {Are Large Language Models Geospatially Knowledgeable?},
  author = {Prabin Bhandari and Antonios Anastasopoulos and Dieter Pfoser},
  journal= {arXiv preprint arXiv:2310.13002},
  year   = {2023}
}