旅行规划中大型语言模型 (LLM) 中的身份偏见研究
人工智能
2025-10-21 v3 计算与语言
计算机与社会
摘要
随着大型语言模型 (LLM) 越来越多地融入酒店业和旅游业，围绕其公平性在服务不同身份群体方面的问题日益突出。基于社会身份理论和社会技术系统理论，本研究检验了LLM在旅行推荐中的族系和性别偏见。我们采用公平性探针技术，对来自三大开源LLM的输出进行分析。结果显示，族系和性别分类器的测试准确率均超过随机猜测。分析最具影响力的特征时，我们发现LLM生成的推荐存在刻板印象偏见。我们还发现这些特征中存在幻觉现象，少数族裔的推荐更频繁地出现幻觉。这些发现表明，LLM在作为旅行规划助手时会表现出族系和性别偏见。这一研究强调了需要采取偏见缓解策略，以提高基于生成式AI驱动的旅行规划助手的包容性和可靠性。
引用
@article{arxiv.2410.17333,
title = {Whose Journey Matters? Investigating Identity Biases in Large Language Models (LLMs) for Travel Planning Assistance},
author = {Ruiping Ren and Yingwei and Xu and Xing Yao and Shu Cole and Haining Wang},
journal= {arXiv preprint arXiv:2410.17333},
year = {2025}
}