思维语言塑造大语言模型的输出多样性

输出多样性对于大型语言模型至关重要，因为它支撑了多样性和创造性。在本研究中，我们揭示了控制模型思考阶段所用语言——思维语言——提供了一种新型且结构化的输出多样性来源。我们的初步研究表明，不同的思维语言在模型思维空间中占据 distinct 的区域。基于此观察，我们研究了两种重复抽样策略——单语言抽样和混合语言抽样——并对输出多样性进行评估，这些输出被控制为使用英语， regardless of the thinking language used。经过大量实验，我们展示了将思维语言从英语切换到非英语语言会一致地增加输出多样性，且这种正相关性清晰且一致，即使距离英语更远的语言会产生更大的提升。我们进一步表明，通过聚合多个思维语言的样本可获得额外的改进，并通过语言异质性的比例抽样扩展了模型的多样性上限。最后，我们表明这些发现在多元主义对齐场景中具有实际效益，导致大语言模型输出中对文化知识和价值取向的更广泛覆盖。我们的代码已公开于 https://github.com/iNLP-Lab/Multilingual-LoT-Diversity。