立场：人工智能代理的涌现智能欲望促使我们重新思考多智能体范式
多智能体系统
2025-07-02 v3 人工智能
摘要
人工智能（AI）代理具备自主学习和独立决策能力，为解决交通、能源系统和制造业等多个关键基础设施领域的复杂挑战提供了巨大潜力。然而，随着 AI 系统在设计和部署方面的激增，这些系统由具有不同且不可对齐目标的各类利益相关者驱动，带来了一个关键挑战：在不创造混乱或妥协安全性的前提下，如何使协调不完全的 AI 系统在共享环境中和谐共存并演化？为此，我们主张彻底重新思考现有多智能体框架，如多智能体系统和博弈论，这些框架主要受限于预定义规则和静态目标结构。我们认为，AI 代理应被赋予动态调整目标、作出妥协、形成联盟、以及通过不断演化的人际关系和社会反馈安全地进行竞争或合作的能力。通过两个关键基础设施应用案例研究，我们呼吁转向这些多智能体 AI 系统的涌现、自组织和情境感知特性。
引用
@article{arxiv.2502.04388,
title = {Position: Emergent Machina Sapiens Urge Rethinking Multi-Agent Paradigms},
author = {Hepeng Li and Yuhong Liu and Jun Yan and Jie Gao and Xiaoou Yang},
journal= {arXiv preprint arXiv:2502.04388},
year = {2025}
}