“全球更好，局部更差？”：理解LLMs中的品牌偏见
计算与语言
2024-09-30 v2 计算工程、金融与科学
摘要
许多近期研究探讨了LLM中的社会偏见，但对品牌偏见的关注不足。这项研究检验了LLM对不同品牌的偏见，这一问题因LLM在受影响用例中广泛应用（如产品推荐和市场分析）而具有重大意义。偏差的模型可能延续社会不平等，公平地偏好既定的全球品牌，同时边缘化本地品牌。我们构建了一个跨越四个品牌类别的精选数据集，用于探测LLM在此领域的行为。我们发现该领域存在一致的偏见模式——即全球品牌在正面属性上被不成比例地关联，而在高收入国家的个体则不成比例地被推荐奢华礼物。我们也发现LLM受到国籍来源效应的影响，这可能在特定情境下提升LLM输出中对本地品牌的偏好。
引用
@article{arxiv.2406.13997,
title = {"Global is Good, Local is Bad?": Understanding Brand Bias in LLMs},
author = {Mahammed Kamruzzaman and Hieu Minh Nguyen and Gene Louis Kim},
journal= {arXiv preprint arXiv:2406.13997},
year = {2024}
}
备注
Accepted at EMNLP-2024 (main)