计划行为链工作流激发 LLM 的少样本移动性生成
人工智能
2024-06-06 v2
摘要
大型语言模型(LLMs)强大的推理能力为许多领域带来了革命性的变化,但其在人类行为生成方面的性能尚未得到广泛探索。这一空白的出现,可能是因为支配行为意图的内部过程无法仅由抽象推理来解释。相反,它们还受到社会规范和个人偏好等众多因素的影响。受计划行为理论(TPB)的启发,我们开发了一种名为计划行为链(CoPB)的 LLM 工作流,用于反映人类活动重要时空动态的移动性行为生成。通过利用 TPB 中的态度、主观规范和感知行为控制等认知结构,CoPB 显著增强了 LLM 推理下一步移动意图的能力。具体而言,CoPB 将移动性意图生成的错误率从 57.8% 大幅降低至 19.4%。为了提高所提出的 CoPB 工作流的可扩展性,我们进一步探索了 LLM 与机制模型之间的协同作用。我们发现,诸如引力模型之类的机制移动性模型,可以有效地将移动性意图映射为物理移动性行为。将 CoPB 与引力模型相结合的策略可减少 97.7% 的 token 成本,并同时取得更好的性能。此外,所提出的 CoPB 工作流可促进 GPT-4-turbo 自动生成用于移动性行为推理的高质量标签。我们表明,这些标签可用于微调较小规模的开源 LLaMA 3-8B,从而在不牺牲生成行为质量的情况下显著降低使用成本。
引用
@article{arxiv.2402.09836,
title = {Chain-of-Planned-Behaviour Workflow Elicits Few-Shot Mobility Generation in LLMs},
author = {Chenyang Shao and Fengli Xu and Bingbing Fan and Jingtao Ding and Yuan Yuan and Meng Wang and Yong Li},
journal= {arXiv preprint arXiv:2402.09836},
year = {2024}
}