中文

用于构建大型语言模型价值体系的生成心理-词汇方法

计算与语言 2025-10-08 v6 人工智能

摘要

价值是个人和集体感知、认知和行为的核心驱动力。价值体系,如沙希特基本人类价值理论,描绘了这些价值之间的层次结构和相互作用,使跨学科研究决策和社会动态成为可能。最近,大型语言模型(LLM)的兴起引发了关于其内在价值模糊不清的担忧。尽管越来越多的工作致力于评估、理解和对齐 LLM 的价值,但心理学依据的 LLM 价值体系仍受到忽视。本研究通过引入生成心理-词汇方法(GPLA)来弥补这一差距,该方法是一种可扩展、可适应且具有理论依据的方法,用于构建价值体系。利用 GPLA,我们提出了一个为 LLM 量身定制的五因素价值体系。为进行系统验证,我们提出了三项基准任务,将心理学原则与最前沿的人工智能优先事项相结合。我们的结果表明,所提出的价值体系满足标准心理学准则,更好地捕捉 LLM 的价值观,提高了 LLM 安全性预测能力,并改进了 LLM 的对齐程度,相较于标准沙希特价值观表现更佳。

关键词

引用

@article{arxiv.2502.02444,
  title  = {Generative Psycho-Lexical Approach for Constructing Value Systems in Large Language Models},
  author = {Haoran Ye and Tianze Zhang and Yuhang Xie and Liyuan Zhang and Yuanyi Ren and Xin Zhang and Guojie Song},
  journal= {arXiv preprint arXiv:2502.02444},
  year   = {2025}
}

备注

ACL 2025 Main