人工智能是愚蠢的，而因果推理也救不了它

人工神经网络已在多种游戏中达到大师级甚至超越人类的表现：从涉及完美信息的游戏（如围棋）到涉及不完美信息的游戏（如星际争霸）。来自 AI 实验室的此类技术发展催生了全球商业中的相应应用——其中 AI 品牌标签正迅速变得无处不在。此类广泛商业部署的一个必然结果是，当 AI 出错时——自动驾驶汽车撞车；聊天机器人表现出种族主义行为；自动化信用评分流程对性别产生歧视等——往往会产生重大的财务、法律和品牌后果，且该事件成为重大新闻。正如 Judea Pearl 所认为的，此类错误的根本原因在于，“深度学习的全部惊人成就只不过等同于曲线拟合”。Judea Pearl 建议，关键是用因果推理——从观测现象推断原因的能力——取代基于关联的推理。Gary Marcus 和 Ernest Davis 在最近一篇纽约时报文章中呼应了这一点：“我们需要停止构建仅仅越来越擅长检测数据集中统计模式的计算机系统——常使用一种称为深度学习的方法——并开始构建从组装那一刻起就先天掌握三个基本概念：时间、空间和因果性的计算机系统”。在本文中，以前景化 Gilbert Ryle 于 1949 年所称的类别错误，我将为 AI 错误提供一个替代性解释：问题不在于 AI 机器无法把握因果性，而在于 AI 机器——作为计算——根本无法理解任何事物。