用户个性化大语言模型输出中的过滤气泡与情感极化

呼应搜索引擎和社交媒体内容排序的历史，大语言模型（LLM）的出现推动了将模型输出向个体用户增强个性化的趋势。过去，个性化推荐与排序系统被认为与过滤气泡（提供可能确认用户既有偏见的 content）和情感极化（对持不同观点者强烈的负面情绪）的发展有关。在这项工作中，我们探索在就公共人物与组织的实事问题提问之前，向领先的大语言模型 ChatGPT-3.5 提示用户政治归属如何导致不同结果。我们观察到，左倾用户往往收到关于左倾政治人物和媒体的更积极陈述，而右倾用户看到关于右倾实体的更积极陈述。这一模式在总统候选人、美国参议院成员以及具有 AllSides 评级的媒体机构中均成立。在对部分输出进行定性评估时，有证据表明特定事实会根据用户政治归属被包含或排除。这些结果表明，基于用户人口统计特征个性化 LLM 带来了与其他个性化互联网技术相同的情感极化与过滤气泡风险。随着有更多尝试将这些模型变现和个性化，这一“失败模式”应被密切监测。