通过相关推理推断因果关系的大型语言模型提示策略
计算与语言
2024-12-19 v1 人工智能
机器学习
摘要
大型语言模型（LLMs）的推理能力正受到日益关注的注意。本文聚焦于因果推理，解决基于相关性信息建立因果关系的问题，这是一个极具挑战性的任务，several LLMs 在此方面表现不佳。我们提出一种提示策略，用于该任务，将原始任务分解为固定子问题，每个子问题对应形式化因果发现算法（PC 算法）的一步。我们提出的提示策略 PC-SubQ 通过逐步提示 LLM 一个子问题，同时将对前一个问题的答案增强到下一个子问题的提示中，以引导 LLM 按照这些算法步骤进行。我们在现有的因果基准测试 Corr2Cause 上进行了评估；我们的实验表明，PC-SubQ 相对于基线提示策略在 five 个 LLMs 上实现了性能提升。结果对因果查询扰动具有鲁棒性，当修改变量名称或改写表达式时。
引用
@article{arxiv.2412.13952,
title = {Prompting Strategies for Enabling Large Language Models to Infer Causation from Correlation},
author = {Eleni Sgouritsa and Virginia Aglietti and Yee Whye Teh and Arnaud Doucet and Arthur Gretton and Silvia Chiappa},
journal= {arXiv preprint arXiv:2412.13952},
year = {2024}
}