生成式 AI 与 AGI：现代 LLM 的认知优势与缺陷
人工智能
2023-09-20 v1
摘要
本文对作为认知系统的交互式 LLM（大语言模型）进行了适度细致的考察，重点关注 2023 年中期的 LLM，如 ChatGPT、GPT-4、Bard、Llama 等。我们回顾了这些系统的认知优势，随后仔细审视了此类 LLM 所属认知系统与人类认知系统之间的显著差异。研究发现，这些 AI 系统的许多实际缺陷可具体归因于其所基于的基本认知架构的不足。我们认为，鉴于可实现的算力资源，对此类 LLM 的渐进式改进并非迈向人类水平 AGI（通用人工智能）的可行路径。这并不意味从研究和实验 LLM 中无法获得关于人类水平 AGI 的启示，也不意味 LLM 不能成为同样融合其他思想的人类水平 AGI 架构中的重要组成部分。从这一视角出发，我们非常简要地触及了有关 LLM 的社会与伦理问题，这表明尽管应防范虚假信息及其他问题，且经济动荡需如任何具有强大冲击力的技术那样依其不可预测的轨迹施以社会对策，但总体而言，针对现代 LLM 所需的政策类型，与若人类水平 AGI 的更可信近似近在咫尺时将截然不同。
引用
@article{arxiv.2309.10371,
title = {Generative AI vs. AGI: The Cognitive Strengths and Weaknesses of Modern LLMs},
author = {Ben Goertzel},
journal= {arXiv preprint arXiv:2309.10371},
year = {2023}
}