受约束推理链用于增强大语言模型的心智推理能力
计算与语言
2024-09-23 v1
摘要
大语言模型（LLM）拥有的心智推理能力（ToM）受到限制。目前大多数改进LLM ToM能力的方法采用零样本提示方式，面临在复杂心智推理任务中表现不佳以及无法处理非叙事情境等挑战。我们提出一种名为受约束心智链（CCoToM）的零样本提示方法，利用领域知识和心智维度之间的因果关系，以解决上述局限性。具体而言，CCoToM通过首先提示LLM推断相关的心智维度（例如信念），再提示LLM基于生成的相关心智维度及其对应的因果关系来推断被查询的心智维度，从而引导LLM构建明确的推理链。此外，CCoToM会自适应地对提示施加约束，以引入归纳偏置并提高心智维度之间的一致性。除了叙事文本外，CCoToM还能处理非叙事情境，如对话。大量实验表明，CCoToM在所有使用的LLM和数据集上均显著优于以往的最先进方法。我们还开展深入分析，以获得对CCoToM更深入的理解。我们已公开代码。
引用
@article{arxiv.2409.13490,
title = {Constrained Reasoning Chains for Enhancing Theory-of-Mind in Large Language Models},
author = {Zizheng Lin and Chunkit Chan and Yangqiu Song and Xin Liu},
journal= {arXiv preprint arXiv:2409.13490},
year = {2024}
}
备注
Accepted by PRICAI 2024