融合大语言模型代理与知识图谱用于位置社交网络中的社会经济预测
计算与语言
2024-11-20 v2 人工智能
机器学习
社会与信息网络
摘要
位置社交网络（LBSNs）的快速发展带来了社会的重大变革，推动了大量研究旨在利用 LBSN 数据进行社会经济预测，如区域人口和商业活动估计。现有研究设计多种图结构来建模异构的 LBSN 数据，并进一步应用图表示学习方法进行社会经济预测。然而，这些方法依赖大量经验性假设和专业知识从多样化数据中提取任务相关信息，可能并非针对特定任务最优。此外，它们往往忽视不同指标之间的内在关系，限制了预测准确性。鉴于大语言模型（LLM）在常识推理、嵌入和多代理协作方面的卓越能力，本文尝试融合 LLM 代理与知识图谱进行社会经济预测。我们首先构建位置知识图谱（LBKG）以整合多来源 LBSN 数据。随后，我们利用 LLM 代理的推理能力为每种社会经济预测任务识别相关元路径，并设计基于元路径的语义引导注意力模块进行知识融合。此外，我们引入跨任务通信机制，通过在 LLM 代理和知识图谱层面实现知识共享来进一步提升性能。在 LLM 代理层面，不同任务的代理协作生成更具多样性和全面性的元路径；在知识图谱层面，来自不同任务的嵌入被自适应地合并，以实现更好的社会经济预测。在两个数据集上的实验表明，LLM 与知识图谱协同设计的有效性，为社会经济预测任务之间的信息共享提供了启示。
引用
@article{arxiv.2411.00028,
title = {Synergizing LLM Agents and Knowledge Graph for Socioeconomic Prediction in LBSN},
author = {Zhilun Zhou and Jingyang Fan and Yu Liu and Fengli Xu and Depeng Jin and Yong Li},
journal= {arXiv preprint arXiv:2411.00028},
year = {2024}
}