大语言模型中的角色扮演悖论：推理性能提升与伦理困境

大语言模型（LLM）中的角色扮演通过模拟多样化的认知视角，增强了其生成上下文相关且高质量回复的能力。然而，我们的研究识别出与该技术相关的重大风险。首先，我们证明自动调优（autotuning）——一种根据问题自动选择模型角色的方法——会导致生成有害输出，即使模型被要求采用中立角色。其次，我们研究了不同角色如何影响生成带有偏见或有害内容的可能性。通过在包含刻板印象和有害问题的基准测试上进行测试，我们发现角色扮演持续放大了偏见输出的风险。我们的结果强调，在敏感或高风险环境中部署 LLM 时，需要仔细考虑角色模拟和调优过程。