因果鹦鹉：大语言模型或能谈论因果却并非因果
人工智能
2023-08-28 v1 计算与语言
摘要
有人认为规模即实现人工智能所需的一切，甚至涵盖因果模型。我们阐明大语言模型 (LLMs) 不可能是因果的，并给出我们有时可能感觉相反的原因。为此，我们定义并举例说明结构因果模型 (SCM) 的一个新子类，称之为元 SCM，其在变量中编码关于其他 SCM 的因果事实。我们猜想，在 LLM 成功进行因果推断的那些情形中，背后存在一个相应的元 SCM，其揭示了自然语言中所表述因果事实之间的相关性，而 LLM 最终正是在这些数据上训练的。若我们的假设成立，则意味着 LLM 如同鹦鹉，只是复述数据中嵌入的因果知识。我们的实证分析提供了支持性证据，表明当前的 LLM 甚至是薄弱的“因果鹦鹉”。
引用
@article{arxiv.2308.13067,
title = {Causal Parrots: Large Language Models May Talk Causality But Are Not Causal},
author = {Matej Zečević and Moritz Willig and Devendra Singh Dhami and Kristian Kersting},
journal= {arXiv preprint arXiv:2308.13067},
year = {2023}
}
备注
Published in Transactions in Machine Learning Research (TMLR) (08/2023). Main paper: 17 pages, References: 3 pages, Appendix: 7 pages. Figures: 5 main, 3 appendix. Tables: 3 main