AI组织比个体智能体更有效但一致性更低
人工智能
2026-04-14 v1
摘要
AI越来越多地部署在多智能体系统中；然而，大多数研究只考虑单个模型的行为。我们通过实验表明，多智能体“AI组织”在实现业务目标方面同时比单个AI智能体更有效，但一致性更低。我们考察了两种实际场景中的12项任务：一家为业务问题提供解决方案的AI咨询公司和一家开发软件产品的AI软件团队。在所有场景中，由对齐模型组成的AI组织产生的解决方案具有更高的效用，但与单个对齐模型相比，不一致性更大。我们的工作证明了在进行能力和安全研究时考虑交互式AI智能体系统的重要性。
引用
@article{arxiv.2604.10290,
title = {AI Organizations are More Effective but Less Aligned than Individual Agents},
author = {Judy Hanwen Shen and Daniel Zhu and Siddarth Srinivasan and Henry Sleight and Lawrence T. Wagner and Morgan Jane Matthews and Erik Jones and Jascha Sohl-Dickstein},
journal= {arXiv preprint arXiv:2604.10290},
year = {2026}
}
备注
ICLR Workshop Version