大语言模型意识之反驳：持续学习对于意识的必要性

意识的科学理论应当是可证伪且非平凡的。近期研究为我们提供了分析意识理论中可证伪性与非平凡性这些要求的正式工具。令人惊讶的是，许多当代意识理论未能通过这一门槛，包括基于因果结构的理论，也包括（本文所展示的）基于功能的理论。在此，我证明了可证伪性与非平凡性的这些要求尤其约束了当代大语言模型（LLM）的潜在意识，因为它们在输入/输出功能上等价于 LLM 的系统附近；然而，对于这些功能等价的系统，不存在任何可证伪且非平凡的意识理论来判定它们具有意识。这构成了对当代 LLM 意识的反驳。然后我展示了一个正面结果，即基于（或要求）持续学习的意识理论确实满足人类意识理论的严格形式约束。有趣的是，这项工作支持一个假设：如果持续学习与人类意识相关联，那么 LLM 当前的局限性（它们不持续学习）与其缺乏意识密切相关。