从生成式 AI 到可信 AI：LLM 可能从 Cyc 中学到什么

生成式 AI 是当前最流行的 AI 方法，由大型语言模型（LLM）组成，这些模型被训练来产生看似合理但未必正确的输出。尽管它们的能力常常令人惊叹，但在推理方面存在不足，导致 LLM 不够完全可信。此外，它们的结果往往既不可预测也不可解释。我们列出了未来 AI 的 16 项需求，并讨论了一种理论上能解决当前方法诸多局限的替代 AI 方法：用经过筛选的显式知识和经验规则来教育 AI，使推理引擎能够自动推导出所有知识的逻辑蕴含。即便由此产生的长链条论证也可信且可解释，因为逐步的完整推理过程始终可用，且每一步所用知识的来源均可被记录和审计。然而存在一个陷阱：如果逻辑语言足以充分表达我们用英语所能表述的任何含义，那么推理引擎的运行会过于缓慢。这正是符号 AI 系统通常妥协采用某些快速但表达力弱得多的逻辑（如知识图谱）的原因。我们描述了 AI 系统 Cyc 如何发展出克服该权衡的方法，并能够实时进行高阶逻辑推理。我们建议，任何可信的通用 AI 都需要将 LLM 方法与更形式化的方法相混合，并铺就了实现这一愿景的路径。