大语言模型的有价值能力恰恰是那些不可被人类可读离散规则完全捕捉的部分

本文提出并论证了一个反直觉的论点：大语言模型 (LLM) 的真正有价值能力恰恰存在于那些无法被人类可读的离散规则完全捕捉的部分。核心论证是通过专家系统等价性的反证法：若 LLM 的全部能力可以被完整的人类可读规则描述，则该规则集将在功能上等价于专家系统；但专家系统在历史和经验上被证明严格弱于 LLM；因此，矛盾产生——超越专家系统能力的 LLM 能力，正是那些无法被规则编码的能力。本论点还得到中国哲学「悟」(通过实践获得顿悟)概念的支持，以及专家系统历史失败和人类认知工具与复杂系统之间的结构性不匹配的证据。本文讨论了对解释性研究、AI 安全以及科学认识论的影响。