临床AI多主体系统中的优化悖论
人工智能
2025-06-13 v2 多智能体系统
摘要
多主体人工智能系统正在临床环境中部署，但单体优化与系统整体性能之间的关系仍不明确。我们使用来自MIMIC-CDM数据集的2400个真实病例，涵盖四种腹部疾病（阑尾炎、胰腺炎、胆囊炎、结肠炎），将临床诊断分解为信息收集、解释和鉴别诊断三个环节。我们评估了单主体系统（一个模型执行所有任务）与多主体系统（为每个任务提供专用模型）的表现，综合考量诊断结果、过程遵循和成本效率等全面指标。我们的结果揭示了一个悖论：尽管多主体系统通常优于单体系统，但组件优化或最佳组合系统（具有优秀组件和卓越过程指标，信息准确率达85.5%）在诊断准确率上显著落后（67.7%不及顶尖多主体系统的77.4%）。这一发现表明，医疗领域的人工智能集成不仅需要关注组件层面的优化，还需关注主体间的信息流和兼容性。我们的研究强调，需要对整个系统进行端到端验证，而不能仅依赖组件指标。
引用
@article{arxiv.2506.06574,
title = {The Optimization Paradox in Clinical AI Multi-Agent Systems},
author = {Suhana Bedi and Iddah Mlauzi and Daniel Shin and Sanmi Koyejo and Nigam H. Shah},
journal= {arXiv preprint arXiv:2506.06574},
year = {2025}
}