大型语言模型中的从众效应

从众效应描述的是个体倾向于与多数人的回应保持一致的趋势。研究大型语言模型 (LLM) 中的从众效应至关重要，因为 LLM 正在越来越多地被用于各种信息寻求和决策任务中，作为对话伙伴以提高生产力。因此，对错误回应的从众可能削弱其有效性。本文将心理学实验改编为考察 LLM 从众程度。我们的发现表明，所有测试的模型在不同知识领域中均表现出不同程度的从众，无论其初始选择或正确性如何。值得注意的是，我们首次表明 LLM 在自身预测不确定时更可能从众。我们进一步探讨影响从众的因素，如训练范式和输入特征，发现指令调优模型对从众更不易受影响，而增加多数人语调的自然度会放大从众。最后，我们提出两种干预措施——Devil's Advocate 和 Question Distillation，以缓解从众效应，为构建更稳健的语言模型提供了洞见。