多智能体 AI 系统的机遇与挑战展望
多智能体系统
2025-08-26 v3 人工智能
新兴技术
机器学习
摘要
多智能体 AI 系统（MAS）由多个自主智能体组成，它们相互作用、交换信息并基于内部生成模型做出决策。最近大语言模型和工具使用智能体的进展使 MAS 在科学发现和协同自动化等领域变得越来越实用。然而，关键问题仍然存在：MAS 何时比单智能体系统更有效？智能体交互会引发哪些新的安全风险？应如何评估其可靠性和结构？本文概述了一个分析 MAS 的形式化框架，聚焦于两个核心方面：有效性与安全性。我们探讨 MAS 是否真正提升了鲁棒性、适应性和性能，还是仅仅重新包装了集成学习等已知技术。我们还研究了智能体间动力学如何放大或抑制系统漏洞。虽然 MAS 对信号处理领域而言相对较新，但我们将其视为一种强大的抽象，将分布式估计和传感器融合等经典工具扩展到更高层次的、基于策略的推理。通过数据科学自动化的实验，我们突显了 MAS 重塑信号处理系统设计与信任方式的潜力。
引用
@article{arxiv.2505.18397,
title = {An Outlook on the Opportunities and Challenges of Multi-Agent AI Systems},
author = {Fangqiao Tian and An Luo and Jin Du and Xun Xian and Robert Specht and Ganghua Wang and Xuan Bi and Jiawei Zhou and Ashish Kundu and Jayanth Srinivasa and Charles Fleming and Rui Zhang and Zirui Liu and Mingyi Hong and Jie Ding},
journal= {arXiv preprint arXiv:2505.18397},
year = {2025}
}
备注
Corrected references