理性沉默与虚假极化：观点组织与推荐系统如何扭曲民意的表达

基于 AI 的社交媒体平台已经改变了经济与社会互动的本质。AI 实现了如今我们习以为常的大规模和高度个性化的在线信息共享。社交媒体平台似乎促成的极化现象已受到广泛关注。然而，我们因这些 AI 驱动的平台而正在经历的转型中，有一个关键影响却鲜少受到关注：平台如何影响在线话语观察者对社区观点的信念。这些观察者包括指望通过社交媒体来评估政策和立法变革前景的政策制定者和立法者，以及在大规模互联网数据上训练 AI 模型的开发者，其输出可能同样反映出对民意的扭曲看法。在本文中，我们提出了一个嵌套博弈论模型，以展示观察到的在线意见是如何由以下几方面的交互产生的：用户关于是否以及以何种修辞强度在平台上分享其意见的决定，试图鼓励或抑制在线意见分享的组织（如传统媒体和倡导组织）的努力，以及由社交媒体平台控制的 AI 驱动推荐系统的运作。我们表明，来自意识形态组织的信号会鼓励修辞强度的增加，导致温和用户的“理性沉默”。这反过来又造成了对平均意见所在位置的极化印象。我们还表明，这种观察到的极化也可能被推荐系统放大，这些系统鼓励在线社区的形成，而这些社区最终看到的只是有偏的意见样本。我们还确定了平台可以实施的实用策略，例如减少对意识形态组织信号的暴露，以及量身定制的内容审核方法。