大型语言模型中的文化偏见：通过道德问卷评估 AI 代理

AI 系统是否真正代表人类价值，抑或仅仅在价值观上进行平均化？我们的研究结果表明，大型语言模型（LLMs）尽管在语言能力方面表现出色，却未能代表多元化的文化道德框架。我们通过在 19 个文化背景下应用道德基础问卷，揭示了 AI 生成的道德直觉与人类道德直觉之间的显著差距。通过将多种最先进的 LLMs 的来源与人类基线数据进行比较，我们发现这些模型系统性地同质化了道德多样性。令人惊讶的是，模型规模的增加并不总是能够显著提升文化表征的忠实度。我们的发现挑战了日益增长的将 LLMs 用作社会科学研究中合成人口的做法，并凸显了当前 AI 对齐方法的根本局限。除非在提示词之外进行数据驱动的对齐，这些系统无法捕捉细腻且具有文化特定性的道德直觉。我们的研究结果呼吁更为 grounded 的对齐目标和评估指标，以确保 AI 系统代表多元化的人类价值，而非将道德格局压平。