大语言模型的文化价值差异：提示词、语言与模型规模
计算机与社会
2024-07-25 v1 计算与语言
摘要
我们的研究旨在识别大语言模型（LLMs）所展现文化价值行为模式。所研究的变量包括问题排序、提示语言和模型规模。我们的实验表明，每个测试过的LLM都能有效地以不同的文化价值行为。更有趣的是：（i）LLMs在单一语言的提示下会表现出相对一致的文化价值。（ii）提示语言（例如中文或英文）可以影响文化价值的表达。相同问题在不同语言下查询同一LLM可能引发不同的文化价值。（iii）相同模型的不同规模（例如Llama2-7B vs 13B vs 70B）对其展现的文化价值影响大于模型差异（例如Llama2 vs Mixtral）。我们的实验表明，LLM的查询语言和模型规模是导致文化价值差异的主要因素。
引用
@article{arxiv.2407.16891,
title = {Cultural Value Differences of LLMs: Prompt, Language, and Model Size},
author = {Qishuai Zhong and Yike Yun and Aixin Sun},
journal= {arXiv preprint arXiv:2407.16891},
year = {2024}
}
备注
20 pages