ChatGPT（2月13日版本）是一个中文屋
计算与语言
2023-04-26 v1
摘要
在有报告表明 ChatGPT 能够通过各种专业和执照考试后，它获得了正面和负面的关注。这表明 ChatGPT 可能在不久的将来通过 Turing 测试。然而，通过 Turing 测试的计算机程序既可以意味着它是一个中文屋，也可以意味着它是人工有意识的。因此，ChatGPT 的当前状态更是一个中文屋还是正在接近人工意识的问题仍然存在。在此，我证明当前版本的 ChatGPT（2月13日版本）是一个中文屋。尽管有认知联系的证据，ChatGPT 在因果推理中表现出严重错误。同时，我证明 ChatGPT 可以对同一问题生成所有可能的分类响应，并以错误的示例进行响应；从而质疑其作为学习工具的效用。我还表明 ChatGPT 能够产生人工幻觉，这被定义为自信地生成错误回复。因果推理中的错误很可能导致幻觉。更关键的是，ChatGPT 生成虚假引用以模仿真实出版物。因此，对其效用应予以警告。
引用
@article{arxiv.2304.12411,
title = {ChatGPT (Feb 13 Version) is a Chinese Room},
author = {Maurice HT Ling},
journal= {arXiv preprint arXiv:2304.12411},
year = {2023}
}
备注
19 pages, 14 figures