集体 AI 可将微小扰动放大为决策发散
人工智能
2026-04-07 v2 多智能体系统
摘要
大型语言模型正日益被部署为由多个成员组成的委员会，这些成员协商后投票或综合决策。人们常期待此类系统比单个模型更稳健。我们展示，迭代的多 LLM deliberation 反而会将微小扰动放大为决策发散的对话轨迹和不同的最终决策。在完全确定性自托管基准中，精确重复的结果完全相同，但对情景文本的细微意义保持不变的改变仍会导致结果在时间推移中分化，常改变最终建议。在部署的黑盒 API 系统中，名义上相同的委员会运行同样不稳定，即便在温度为 0 时，许多用户仍期待接近确定性。在 12 个政策情景中，这些发现表明，集体 AI 的不稳定性不仅源于残余的平台侧随机性，还可源于在反复互动下对相邻初始条件的敏感性。额外的部署实验显示，委员会架构可调节这种不稳定性：角色结构、模型组成和反馈记忆都可改变分化程度。因此，集体 AI 面临的是稳定性问题，而不仅是准确性问题：确定性执行本身并不保证可预测或可审计的 deliberative 结果。
引用
@article{arxiv.2603.09127,
title = {Collective AI can amplify tiny perturbations into divergent decisions},
author = {Hajime Shimao and Warut Khern-am-nuai and Sung Joo Kim},
journal= {arXiv preprint arXiv:2603.09127},
year = {2026}
}
备注
Main text: 9 pages, 4 figures;