机器中的幽灵带着美国口音：GPT-3中的价值冲突

在大语言模型（LLM）背景下的对齐问题必须考量我们世界中人类价值的多元性。尽管世界各文化间存在许多共鸣与重叠的价值，也有许多相互冲突却同样合理的价值。观察一个模型所展现的文化价值十分重要，尤其在输入提示与生成输出之间存在价值冲突时。我们探讨语言与文化价值的共同创造如何影响大语言模型（LLM）。我们考察了GPT-3训练数据的构成，并将其与世界语言与互联网接入人口统计以及部分民族国家中主导价值的统计画像进行比较。我们用代表多种语言与国家的、富含价值的文本对GPT-3进行压力测试；其中包括一些据世界价值观调查报道与美国主导公众意见正交的价值。我们观察到当输入文本中嵌入的价值在生成输出中被改变时，以及注意到这些冲突价值更贴近报道的美国主导价值时的情况。我们对这些结果的讨论采用道德价值多元主义（MVP）视角，以更好理解这些价值变异。最后，我们提供了本工作如何贡献于该领域其他当前工作的建议。