预设文化身份：姓名如何塑造大语言模型的回应

姓名与人类身份紧密相连。它们可以是个性、文化遗产和个人历史的标志。然而，将姓名用作身份的核心指标可能导致对复杂身份的过度简化。在与大语言模型 (LLMs) 交互时，用户姓名是个性化的重要信息点。姓名可通过直接用户输入（由聊天机器人请求）、作为简历审查等任务上下文的一部分，或作为存储用户信息以实现个性化的内置记忆功能进入聊天机器人对话。我们通过测量 LLMs 在面对常见寻求建议的查询时生成回应中的文化预设来研究与姓名相关的偏见，这些查询可能涉及对用户的假设。我们的分析表明，LLM 生成内容中存在与姓名相关的强烈文化身份假设，且跨越多种文化。我们的工作对设计更精细的个性化系统具有启示意义，这些系统既能避免强化刻板印象，又能保持有意义的定制化。