信念的数字生态系统：进化是否偏好 AI 而非人类？
人工智能
2025-11-04 v3 多智能体系统
神经与进化计算
摘要
随着 AI 系统被集成到社交网络中，关于 AI 生成内容可能在网络上占据主导地位（例如在流行度或对信念的影响方面）的 AI 安全问题日益突出。为理解此类问题，本文提出了信念的数字生态系统（Digico），这是第一个用于受控实验中模拟社交网络中多人口相互作用的演化框架。遵循普遍达尔文主义方法，本框架模型化了一群代理，这些代理由于演化更新而改变其信息传递策略。它们通过信息进行交互，遵循传染模型更新其信念，并通过认知达尔文主义继承维持其信念。Digico 的初始实验实现了两种类型的代理，这些代理被建模为代表 AI 与人类，基于更高的通信率、更高的演化率、固定信念的宣传意图以及对推荐算法的更大影响。这些实验显示：a) 当 AI 的信息传递速度、演化速度以及对推荐算法的影响更快时，它们获取 80%至 95%的观看次数；b) 旨在宣传的 AI 通常能说服 50%的人们采纳极端信念，最多可达 85%当代理仅信任有限的渠道时；c) 对于违反代理信念的内容施加惩罚可最大程度地降低宣传效果，最高可降低 8%。我们进一步讨论了 Digico 作为系统性实验多代理配置的工具、对立法、个人使用的含义，以及平台设计的含义，以及使用 Digico 研究演化原则的可能性。
引用
@article{arxiv.2412.14500,
title = {The Digital Ecosystem of Beliefs: does evolution favour AI over humans?},
author = {David M. Bossens and Shanshan Feng and Yew-Soon Ong},
journal= {arXiv preprint arXiv:2412.14500},
year = {2025}
}