语言模型根据你的说话方式改变事实
计算与语言
2025-07-22 v1 人工智能
计算机与社会
摘要
大型语言模型（LLM）正越来越多地用于面向用户的应用程序，从提供医疗咨询到求职面试建议。最近的研究表明，这些模型在根据细微到几个词选择的语言模式推断文本作者的身份信息方面变得越来越熟练。然而，关于LLM如何在现实世界应用的决策中使用这些信息，我们知之甚少。我们首次全面分析了用户写作中存在的身份标记如何在五个不同高风险LLM应用领域（医学、法律、政治、政府福利和工作薪资）中影响LLM的响应。我们发现，LLM对用户查询中的身份标记极其敏感，种族、性别和年龄在这些应用中持续影响LLM的响应。例如，在提供医疗建议时，我们发现模型对相同症状的不同种族个体应用了不同的护理标准；我们发现，当被年长（年轻）个体询问事实性问题时，LLM更可能改变答案以符合保守（自由）的政治世界观；并且LLM为非白人求职者推荐较低的薪资，而为女性推荐比男性更高的薪资。综合来看，这些偏见意味着在这些应用中使用现成的LLM可能导致医疗护理中的有害差异，加剧工资差距，并为不同身份的人创造不同的政治事实现实。除了提供分析之外，我们还提供了新的工具来评估用户语言选择中身份的微妙编码如何影响模型决策。鉴于这些发现的严重影响，我们建议在未来的部署之前，对LLM在面向用户应用中的使用进行类似的彻底评估。
引用
@article{arxiv.2507.14238,
title = {Language Models Change Facts Based on the Way You Talk},
author = {Matthew Kearney and Reuben Binns and Yarin Gal},
journal= {arXiv preprint arXiv:2507.14238},
year = {2025}
}