LLM 是否具有一致的值？
计算与语言
2024-10-16 v3 人工智能
摘要
大语言模型（LLM）技术正不断接近人类水平的对话能力。然而，值是支撑人类行为的基本动力，迄今为止鲜有研究探讨 LLM 生成文本中所展现的值。本研究转向心理学中关于价值结构的丰富文献，探讨 LLM 是否展现出与人类相同的价值结构，包括价值的排序和价值之间的相关性。我们展示了该分析结果取决于 LLM 的提示方式，在特定提示策略（称为“价值锚定”）下，与人类数据的一致性相当令人鼓舞。我们的结果既有助于改进对 LLM 中价值的理解，也引入了评估 LLM 回复一致性的新方法。
引用
@article{arxiv.2407.12878,
title = {Do LLMs have Consistent Values?},
author = {Naama Rozen and Liat Bezalel and Gal Elidan and Amir Globerson and Ella Daniel},
journal= {arXiv preprint arXiv:2407.12878},
year = {2024}
}
备注
16 pages, 4 figures, and there are more in the appendix