自主生成式 AI 智能体在回音室中的极化现象
计算与语言
2024-02-20 v1
摘要
在线社交网络常常会创建回音室，使得人们只听到强化其信念的意见。回音室常导致极化现象，进而引发以极端意见为特征的冲突，例如 2021 年 1 月 6 日针对美国国会大厦的袭击事件。过去，这一现象被视为人类特有的难题，但随着大型语言模型（如 ChatGPT）获得社交能力，这一隐含假设正变得不那么合理。针对这一情况，我们调查了基于生成式语言模型的自主 AI 智能体在回音室环境中是否会出现极化的潜力。我们让 AI 智能体讨论特定话题，并分析随着讨论进程推进，群体意见如何变化。结果发现，基于 ChatGPT 的智能体群体倾向于在回音室环境中发生极化。意见转变的分析表明，这一结果是由于 ChatGPT 具备高度的提示词理解能力，能够通过考虑自身及周围智能体的意见来更新其意见。我们进一步进行了实验，以探讨 AI 智能体极化的具体条件。结果识别出诸如智能体的角色形象等因素对极化具有强烈影响。这些因素应被监控，以防止 AI 智能体的极化。
引用
@article{arxiv.2402.12212,
title = {Polarization of Autonomous Generative AI Agents Under Echo Chambers},
author = {Masaya Ohagi},
journal= {arXiv preprint arXiv:2402.12212},
year = {2024}
}