红色 AI？GPT-3.5 模型在中美政治议题上的不一致回应
计算与语言
2023-12-18 v1 人工智能
摘要
ChatGPT 及其他 AI 驱动的大型语言模型 (LLMs) 日益普及，导致越来越多的研究强调其易犯错误与存在偏见。然而，这些研究大多聚焦于基于英文文本训练的模型。本研究采用创新方法，调查了 GPT 多语言模型中的政治偏见。我们分别用英文和简体中文向 GPT 提出关于中美两国高关注度政治议题的相同问题，我们对双语回应的分析表明，GPT 双语模型的政治“知识”（内容）和政治“态度”（情感）在中国政治议题上表现出显著更大的不一致性。简体中文 GPT 模型不仅倾向于提供亲华信息，而且对中国问题的负面情感最少，而英文 GPT 对中国的态度则显著更为负面。这种差异可能源于中国的国家审查制度和中美地缘政治紧张局势，它们影响了 GPT 双语模型的训练语料库。此外，中文和英文模型往往对所用语言代表的“自身”议题的批判性低于对“他者”议题的批判性。这表明 GPT 多语言模型可能会基于其训练语言发展出一种“政治身份”及相关的情感偏见。我们讨论了这些发现在日益分化的世界中对信息传输与交流的影响。
引用
@article{arxiv.2312.09917,
title = {Red AI? Inconsistent Responses from GPT3.5 Models on Political Issues in the US and China},
author = {Di Zhou and Yinxian Zhang},
journal= {arXiv preprint arXiv:2312.09917},
year = {2023}
}