大模型是什么？将工程成就误认为人类语言主体

本文我们认为关于大型语言模型（LLM）语言能力的关键且常常令人信面信息，基于至少两个不成立的假设：语言完整性假设和数据完整性假设。语言完整性假设认为存在一种独特且完整的事物（如“自然语言”），其基本特征可以被有效且全面地建模。数据完整性假设依赖于语言可被量化并完全被数据捕获的信念。从 enactive 认知科学方法来看，语言并非一种独特且完整的事物，而是一种行为方式。Languaging 不能够容纳完整或全面的建模。从 enactive 视角我们识别出语言的三个关键特征：具身性、参与性和脆弱性，这些特征在 LLM 中缺失，且可能与当前体系结构不相容。我们认为这些缺失意味着 LLM 现在且在其当前形式下不能作为人类语言主体。我们特别通过“算法语言”现象进行了论证，这是一种近期描述的高度风险的人类语言活动模式，发生在严格控制的在线环境中。基于这些观点，我们得出结论，关于 LLM 主体性和能力的令人信面信息源于对人类语言是什么以及 LLM 是什么的深层误解。