大语言模型往往具有政治极端性、意识形态不一致性，并且在信息性上下文中同样具有说服力
计算机与社会
2025-05-08 v1 计算与语言
摘要
大语言模型（LLMs）是一种变革性技术，根本改变了人们获取信息和与世界互动的方式。随着人们越来越依赖它们来完成各种任务，学术界已经发展出一大批研究来检查这些模型是否存在偏见，尤其是政治偏见，常常发现其偏见较小。我们挑战了这种普遍看法。首先，通过将 31 个 LLMs 与立法者、法官以及一份全国代表性抽样的美国选民进行比较，我们表明 LLMs 看似较小的整体党派偏好实际上是特定议题上极端观点的净和谈结果，类似于中度选民。其次，在随机实验中，我们表明 LLMs 能够在信息寻求的上下文中将其偏好转化为政治说服力：接受随机分配与 LLM 聊天机器人讨论政治议题的选民，其表述偏好与该聊天机器人相同的概率高出最高 5 个百分点。与预期相反，这些说服效应并不受熟悉程度、新闻消费或对政治兴趣的调节。LLMs，特别是由私营公司或政府控制的 LLMs，可能成为一种强大且有针对性的政治影响力向量。
引用
@article{arxiv.2505.04171,
title = {Large Language Models are often politically extreme, usually ideologically inconsistent, and persuasive even in informational contexts},
author = {Nouar Aldahoul and Hazem Ibrahim and Matteo Varvello and Aaron Kaufman and Talal Rahwan and Yasir Zaki},
journal= {arXiv preprint arXiv:2505.04171},
year = {2025}
}
备注
61 pages, 29 figures