ValueSim：生成背景故事以建模个体价值系统
计算与语言
2025-06-06 v2
摘要
随着大语言模型（LLM）继续表现出越来越类人的能力，使其与人类价值观对齐变得至关重要。当代先进技术，如提示学习和强化学习，正被部署以更好地使 LLM 与人类价值观对齐。然而，虽然这些方法解决了广泛的伦理考量和有用性问题，但它们很少专注于模拟个体化的人类价值系统。为了弥补这一空白，我们提出了 ValueSim，这是一个通过生成反映过去经历和人口统计信息的个人背景故事来模拟个体价值观的框架。ValueSim 将结构化的个体数据转换为叙事性背景故事，并采用受认知-情感人格系统启发的多模块架构，基于这些叙事来模拟个体价值观。在源自世界价值观调查的自建基准上测试 ValueSim，结果表明，与检索增强生成方法相比，top-1 准确率提高了 10% 以上。进一步的分析表明，随着可获得额外的用户交互历史，性能会有所提升，这表明模型能够随着时间的推移完善其角色模拟能力。
引用
@article{arxiv.2505.23827,
title = {ValueSim: Generating Backstories to Model Individual Value Systems},
author = {Bangde Du and Ziyi Ye and Zhijing Wu and Jankowska Monika and Shuqi Zhu and Qingyao Ai and Yujia Zhou and Yiqun Liu},
journal= {arXiv preprint arXiv:2505.23827},
year = {2025}
}
备注
8 pages main paper + 13 pages appendix, 3 figures, 2 tables