观察大语言模型的微观动机与宏观行为
物理与社会
2024-12-17 v1 人工智能
计算与语言
摘要
诺贝尔经济学奖得主托马斯·C·谢林（Thomas C. Schelling）指出，“个体决策（微观动机），虽然往往是个人化且局部化的，却可能导致社会结果（宏观行为），且这种结果与个体原本意图截然不同。”当前关于大语言模型（LLMs）微观动机（如偏好或偏见）的研究，假设只要消除LLMs的偏好或偏见，用户便会作出更合适的决策。因此，一系列研究聚焦于消除LLMs的偏见。在自然语言处理社区，尽管就LLMs的微观动机有大量讨论，但此前的研究很少系统性地检视LLMs如何影响社会的宏观行为。本文遵循谢林的隔离模型设计，观察LLMs的微观动机与宏观行为之间的关系。我们的结果表明，无论LLMs的偏见程度如何，随着更多人跟随LLMs的建议，都会形成高度隔离的社会。我们希望我们的讨论能激发人们进一步思考关于消除LLMs微观动机的基本假设，促使人们重新评估LLMs如何影响用户及社会。
引用
@article{arxiv.2412.10428,
title = {Observing Micromotives and Macrobehavior of Large Language Models},
author = {Yuyang Cheng and Xingwei Qu and Tomas Goldsack and Chenghua Lin and Chung-Chi Chen},
journal= {arXiv preprint arXiv:2412.10428},
year = {2024}
}