复合 AI 系统中聚合的能力与局限性

在设计复合 AI 系统时，常见的做法是查询多个相同模型的副本并聚合其响应，以产生综合性输出。鉴于这些模型的同质性，这引出了一个问题：聚合是否能够访问超过单一查询模型的更大输出集合？本文在一个简化的 Principal-Agent 框架下，探讨聚合在复合 AI 系统中的能力与局限性。该框架模型化系统设计者如何通过奖励函数规范化来部分引导每个代理人的输出，但仍受限于提示工程能力和模型能力。我们的分析揭示了三种自然机制——可行性扩展、支持扩展和绑定集收缩——通过 which 聚合扩大了系统设计者可诱导输出的集合。我们证明，任何聚合操作都必须实现上述一种机制才能实现可诱导性扩展，而这些机制的强化版本则提供了完全 characterize 可诱导性扩展的必要充分条件。最后，我们为在一个玩具参考生成任务中部署的大语言模型提供了实证示例。总体而言，我们的结果为阐明复合 AI 系统何时能够克服模型能力和提示工程中的局限性迈出了一步。