大型语言模型多智能体系统中意见动力学的原理
多智能体系统
2024-09-26 v2 机器学习
物理与社会
摘要
我们研究了大型语言模型 (LLM) 群体内意见的演化规律。每个 LLM 都需要决定如何分配资金给某个项目，初始选项包括：全额资助、部分资助或不资助。我们识别了驱动意见交换的偏见，这些偏见基于 LLM 寻求与其他 LLM 意见保持一致的倾向，在指定资金时表现谨慎，以及在其意见中考虑伦理问题。我们发现，这些偏见受到意见变化缺乏 compelling 理由、参与讨论的意愿以及分配价值分布的影响。此外，偏见之间的紧张关系可能导致资助带有负面联想的项目得以生存。我们还发现，当 LLM 在互动后自由形成意见时，最终的全额、部分和不资助意见分布更为多样化；而在后者情况下，由于意见主要是从三个分配选项中进行多选选择，通常会达到一致。当智能体意识到过去的意见时，它们会寻求维持与这些意见的一致性，从而影响意见动力学。我们的研究使用 Llama 3 和 Mistral LLMs 进行。
引用
@article{arxiv.2406.15492,
title = {On the Principles behind Opinion Dynamics in Multi-Agent Systems of Large Language Models},
author = {Pedro Cisneros-Velarde},
journal= {arXiv preprint arXiv:2406.15492},
year = {2024}
}