中文

评估大型语言模型在旅行出行方式选择预测中的检索增强生成策略

人工智能 2025-08-26 v1 计算机与社会 机器学习

摘要

准确预测旅行出行方式选择对于有效的交通规划至关重要,但传统的统计和机器学习模型受限于僵化的假设、有限的上下文推理和较低的可推广性。本研究探讨了使用大型语言模型(LLM)作为更灵活和富有上下文感知的方式进行旅行出行方式选择预测的潜力,通过检索增强生成(RAG)将预测 grounded 在实证数据之上。我们开发了一个模块化框架,用于将 RAG 集成到基于大型语言模型的旅行出行方式选择预测中,并评估了四种检索策略:基本 RAG、带平衡检索的 RAG、使用交叉编码器进行重新排序的 RAG,以及带平衡检索和交叉编码器重新排序的 RAG。这些策略在三个大型语言模型架构(OpenAI GPT-4o、o4-mini 和 o3)之间进行测试,以检验模型推理能力与检索方法之间的相互作用。使用 2023 年普吉斯音盆地区家庭旅行调查数据,我们进行一系列实验来评估模型性能。结果表明,RAG 在广泛的模型中显著提升了预测准确性。值得注意的是,搭配平衡检索和交叉编码器重新排序的 GPT-4o 模型实现了最高的 80.8% 准确率,超过了传统统计和机器学习基线。此外,基于大型语言模型的模型在相对于这些基线方面表现出更好的推广能力。研究发现,突显了大型语言模型推理能力与检索策略之间关键的相互作用,证明了将检索策略与模型能力相匹配以最大化大型语言模型基于旅行行为建模潜力的重要性。

关键词

引用

@article{arxiv.2508.17527,
  title  = {Evaluating Retrieval-Augmented Generation Strategies for Large Language Models in Travel Mode Choice Prediction},
  author = {Yiming Xu and Junfeng Jiao},
  journal= {arXiv preprint arXiv:2508.17527},
  year   = {2025}
}