DistRAG：面向距离驱动空间推理的大语言模型
计算与语言
2025-06-05 v1 信息检索
摘要
许多需要大语言模型(LLM)处理的实际任务都要求进行空间推理, 例如兴趣点(POI)推荐和行程规划。然而, 仅凭 LLM 本身缺乏可靠的空间推理能力, 尤其是关于距离的推理。为此, 我们发展了一种新方法 DistRAG, 使 LLM 能够检索训练期未显式学习的相关空间信息。该方法将城市和城镇之间的测地距离编码到图中, 并检索与问题相关的上下文子图。通过此技术, 方法使 LLM 能够回答其无法自行回答的距离驱动推理问题。鉴于 LLM 可能被询问的大量地点, DistRAG 为为补充 LLM 语言知识的「基本世界模型」提供了可行的第一步。
引用
@article{arxiv.2506.03424,
title = {DistRAG: Towards Distance-Based Spatial Reasoning in LLMs},
author = {Nicole R Schneider and Nandini Ramachandran and Kent O'Sullivan and Hanan Samet},
journal= {arXiv preprint arXiv:2506.03424},
year = {2025}
}