大语言模型能否理解跨文化的道德观念?
计算与语言
2025-07-30 v1
摘要
大语言模型(LLM)的最新进展使其成为众多领域中的强大工具。然而,对其训练数据中所嵌入的偏见(如性别、种族和文化偏见)的持续担忧,引发了关于这些技术的伦理使用和社会影响的重大问题。本研究考察了 LLM 在多大程度上能够捕捉道德观念中的跨文化差异与相似性。具体而言,我们检验 LLM 的输出是否与关于道德态度的国际调查数据中所观察到的模式相一致。为此,我们采用三种互补的方法:(1) 比较模型生成的道德分数方差与调查所报告的方差;(2) 进行聚类对齐分析,以评估基于 LLM 输出所得到的国家分组与基于调查数据所得到的国家分组之间的一致程度;(3) 使用系统选定的词元对,通过比较性提示直接探查模型。我们的结果表明,当前 LLM 常常无法再现跨文化道德差异的全部谱系,倾向于压缩差异,且与实证调查模式的对齐程度较低。这些发现凸显了对更稳健方法以减轻偏见并提升 LLM 文化代表性的迫切需求。最后,我们讨论了对 LLM 负责任开发与全球部署的影响,强调公平性与伦理对齐。
引用
@article{arxiv.2507.21319,
title = {Do Large Language Models Understand Morality Across Cultures?},
author = {Hadi Mohammadi and Yasmeen F. S. S. Meijer and Efthymia Papadopoulou and Ayoub Bagheri},
journal= {arXiv preprint arXiv:2507.21319},
year = {2025}
}