不平等的机会：审视大语言模型在地理推荐中的偏见
计算与语言
2025-04-09 v1 人工智能
计算机与社会
人机交互
信息检索
摘要
近期大语言模型（LLMs）的发展使其成为用户流行的信息寻求工具。然而，LLMs的统计训练方法引发了对其对缺乏代表性话题的表征性担忧，可能导致偏见影响实际决策和机会。这些偏见可能对LLMs日益普及的背景下产生重大的经济、社会和文化影响，无论是通过直接交互（如用户与聊天机器人或自动助手互动）还是通过集成到第三方应用程序（作为智能体）中，后者在幕后影响决策过程和功能。本研究考察了LLMs在推荐美国城市和城镇时所呈现的偏见，涉及三个领域：迁居、旅游和创业。我们探讨两个关键研究问题：（i）LLMs的响应多样性如何，（ii)这种相似性是否偏向某些特征的地区，从而引入偏见。我们关注LLMs响应的一致性以及其对特定位置的过度或不足表征。我们的发现指出，这些推荐中存在持续的人口统计学偏见，可能延续“富者愈富”效应，扩大既有经济不平等。
引用
@article{arxiv.2504.05325,
title = {Unequal Opportunities: Examining the Bias in Geographical Recommendations by Large Language Models},
author = {Shiran Dudy and Thulasi Tholeti and Resmi Ramachandranpillai and Muhammad Ali and Toby Jia-Jun Li and Ricardo Baeza-Yates},
journal= {arXiv preprint arXiv:2504.05325},
year = {2025}
}