系统 1 与系统 2 语义记忆结构在人类与大语言模型偏见中的作用

人类和大语言模型（LLMs）中的隐含偏见都带来显著的社会风险。双过程理论认为，偏见主要源于关联性的系统 1 思维，而犹豫的系统 2 思维可缓解偏见，但引发这种现象的认知机制仍鲜为人知。为更好地理解人类乃至 LLMs 中这种二元现象的内在因素，我们将系统 1 与系统 2 思维建模为具有不同结构的语义记忆网络，这些网络由人类和 LLMs 生成的可比数据集构建。随后，我们使用基于网络的评估指标研究这些不同语义记忆结构与隐含性别偏见之间的关系。我们发现，语义记忆结构在人类身上是不可约的，这表明 LLMs 缺乏某些人类式概念知识。此外，语义记忆结构仅在人类中与隐含偏见保持一致关系，系统 2 结构的偏见水平较低。这些发现表明，某些类型的概念知识有助于人类中的偏见调节，但在 LLMs 中不起作用，凸显了人类与机器认知之间的根本差异。