你站在哪一边？探究大语言模型的政治立场
计算与语言
2024-03-22 v1 人工智能
社会与信息网络
摘要
大语言模型（LLM）因其在文本生成、摘要和信息检索等多种日常任务中的应用而广受欢迎。随着 LLM 的广泛采用持续激增，确保这些模型产生政治中立的回应变得日益关键，其目的在于防止信息茧房、维护代表性的公平性并减轻确认偏误。在本文中，我们提出了一个量化框架和流程，旨在系统地探究大语言模型的政治倾向。我们的研究深入探讨了 LLM 在从堕胎到 LGBTQ 问题等八个极化议题上的政治立场。结果显示，当用户查询包含与职业、种族或政治派别相关的细节时，LLM 倾向于提供与自由派或左倾观点紧密一致的回应，而非保守派或右倾观点。本研究呈现的发现不仅再次证实了先前关于 LLM 左倾特性的观察，还揭示了某些特定属性，例如职业，即使在被直接引导向保守主义时，也特别容易受到此类倾向的影响。作为避免这些模型提供政治化回应的建议，用户在构建查询时应保持警惕，并谨慎选择中立的提示语言。
引用
@article{arxiv.2403.13840,
title = {Whose Side Are You On? Investigating the Political Stance of Large Language Models},
author = {Pagnarasmey Pit and Xingjun Ma and Mike Conway and Qingyu Chen and James Bailey and Henry Pit and Putrasmey Keo and Watey Diep and Yu-Gang Jiang},
journal= {arXiv preprint arXiv:2403.13840},
year = {2024}
}