K 级推理：在大型语言模型中为战略推理建立高阶信念
计算与语言
2024-10-18 v2 人工智能
摘要
战略推理对于智能体而言是一项复杂但必不可少的能力。它要求大型语言模型 (LLM) 智能体在多智能体环境中动态调整其策略。与静态推理任务不同，在这些情境下的成功取决于预测其他智能体的信念和行动，同时不断调整策略以实现个体目标。由于缺乏一个能够使其动态推断他人视角并适应变化环境的推理框架，LLM 及其智能体常常在战略推理中遇到困难。受博弈论和行为经济学中 K 级框架的启发，该框架将推理从简单反应扩展到结构化的战略深度，我们提出了一个新颖的框架：“基于大型语言模型的 K 级推理 (K-R)”。该框架采用递归机制，使 LLM 能够达到不同层次的战略深度，从而允许智能体形成高阶信念——即关于他人信念的信念。我们通过在四个测试平台上进行严格测试来验证该框架：两个经典博弈论问题和两个社会智能任务。结果证明了 K-R 在战略推理中的优势。我们的工作首次在大型语言模型 (LLM) 中实现了战略深度的递归实现，为未来研究 LLM 中的心智理论和战略推理奠定了基础。
引用
@article{arxiv.2402.01521,
title = {K-Level Reasoning: Establishing Higher Order Beliefs in Large Language Models for Strategic Reasoning},
author = {Yadong Zhang and Shaoguang Mao and Tao Ge and Xun Wang and Yan Xia and Man Lan and Furu Wei},
journal= {arXiv preprint arXiv:2402.01521},
year = {2024}
}