大型语言模型的认识论后果：重新思考集体智能与制度性知识

我们审视了人类与 LLM 交互所带来的认识论威胁。我们以有限理性和双过程理论为背景，构建“集体认识论”作为一种跨越人类集体的认识正当性理论。我们区分内部主义正当性（即对 proposition 为何为真进行反思性理解的认识），与外部主义正当性（即可靠传递真理的认识）。二者均为集体理性所必需，但仅内部主义正当性才能产生反思性知识。我们规定反思性知识如下：代理人理解课求依据的评估基础；当该依据不可及时，代理人持续评估真理来源的可靠性；代理人有义务在其专业与公民认知职责所在的领域内应用这些标准。我们认为，LLM 类似于外部主义可靠主义，因为它们可可靠地传递信息，而这些信息的正当性依据已在其他地方建立；但它们本身不具备反思性正当性。将大量反思性工作外包给可靠的 LLM 输出会削弱反思性正当性标准，劝诿理解，削弱代理人满足专业与公民认知职责的能力。为缓解这些风险，我们提出三层规范计划，包括针对个人使用的认识论互动模型、为实现认识最优结果而设置和强制规范的制度与组织框架，以及在组织和/或立法层面以实例化话语规范、遏制认识恶习的义务约束。