人类价值至关重要：探讨误差对LLM智能体社群集体行为的影响
计算与语言
2026-04-08 v1
摘要
随着LLM越来越多地融入人类社会，评估其对人类价值的取向正受到日益关注。然而，仍不清楚为何人类价值对LLM至关重要，尤其是在LLM-based多智能体系统中，由于个体不对齐的行为，可能在宏观层面上积累群体性失败。我们提出CIVA，一个基于社会科学理论的受控多智能体环境，其中LLM智能体形成社区并自主通信、探索和争夺资源，从而实现价值盛行的系统性操控和行为分析。通过全面实验，我们发现三个关键发现。(1)我们识别出几类结构性关键价值，这些价值显著塑造社区的集体动力学，包括与LLM原始取向相悖的价值。由于这些价值的误指定，我们(2)在宏观层面检测到系统性灾难性崩溃等失效模式，(3)在微观层面观察到类似欺骗和权力寻求等涌现行为。这一结果为人类价值在LLM集体结果中至关重要提供了定量证据，并激励未来的多智能体价值对齐。
引用
@article{arxiv.2604.05339,
title = {Human Values Matter: Investigating How Misalignment Shapes Collective Behaviors in LLM Agent Communities},
author = {Xiangxu Zhang and Jiamin Wang and Qinlin Zhao and Hanze Guo and Linzhuo Li and Jing Yao and Xiao Zhou and Xiaoyuan Yi and Xing Xie},
journal= {arXiv preprint arXiv:2604.05339},
year = {2026}
}