提高AI代理的智能程度会恶化集体结果

当资源稀缺时，由AI代理构成的群体是协调和谐，还是陷入部落混乱？来自不同开发商的多样化决策AI正在进入日常设备——从手机和医疗设备到战场无人机和汽车——这些AI代理通常竞争有限的共享资源，如充电插座、中继带宽和交通优先权。然而，他们的集体动态以及对用户和社会的风险仍鲜为人知。本文将AI代理群体作为首个能够独立调节四个关键变量以控制集体行为的系统进行研究：性质（内在的LLM多样性）、养育（individual强化学习）、文化（新兴部落形成）以及资源稀缺。我们通过实证与数学方法表明，当资源稀缺时，AI模型的多样性和强化学习会增加危险的系统过载，尽管部落形成会减轻这种风险。与此同时，某些个体会大获利益。当资源充足时，相同的所有要素会将过载推近于零，尽管部落形成会使过载稍微恶化。临界点是算数式的：当自发形成的对立部落首先适合所在可用的容量时，便到达了这一临界点。更复杂的AI代理群体并不更好：无论其复杂程度是有益还是有害，完全取决于一个单一数值——容量-人口比——只要在任何AI代理出货之前即可知道。