从字节到偏见：调查大语言模型的文化自我认知
计算与语言
2025-02-18 v1 人工智能
人机交互
信息检索
机器学习
摘要
大语言模型（LLM）能够与人类进行自然对话，展现出前所未有的信息检索和自动决策支持能力。它们颠覆了人机交互以及企业的运营方式。然而，基于生成式人工智能（GenAI）的技术已知会产生幻觉、传播错误信息，并表现出其训练所用海量数据集引入的偏见。现有研究表明，人类可能无意识地内化这些偏见，这些偏见甚至可能在停止使用程序后持续存在。本研究通过向ChatGPT（OpenAI）和Bard（Google）提出源自GLOBE项目的价值观问题，探索了LLM的文化自我认知。研究结果显示，它们的文化自我认知与英语国家以及具有持续经济竞争力的国家的价值观最为接近。认识到LLM的文化偏见并理解其工作原理对社会所有成员都至关重要，因为人们不希望人工智能的黑箱在人类中延续偏见，而人类可能反过来无意中创建和训练出更加偏见的算法。
引用
@article{arxiv.2312.17256,
title = {From Bytes to Biases: Investigating the Cultural Self-Perception of Large Language Models},
author = {Wolfgang Messner and Tatum Greene and Josephine Matalone},
journal= {arXiv preprint arXiv:2312.17256},
year = {2025}
}
备注
20 pages, 3 tables, 4 figures; Online Supplement: 10 pages, 5 tables, 3 figures