人类加入团队前：诊断医疗机器人团队协调失效

随着人类向与协调机器人团队合作的方向发展，理解这些团队如何协调以及如何失效对于建立信任和确保安全至关重要。然而，在医疗等高风险领域，在早期开发阶段向人类合作者暴露协调失效是昂贵且有风险的。我们采用代理模拟方法，其中所有团队角色，包括监督经理，都作为LLM代理实例化，从而在人类加入团队之前诊断协调失效。使用可控的医疗情景，我们进行两种不同的层次配置研究，以分析协调行为和失效模式。我们的发现表明，团队结构而非上下文知识或模型能力，是协调的主要瓶颈，并暴露了推理自主性与系统稳定性之间的张力。通过在模拟中暴露这些失效，我们为安全的人类集成奠定了基础。这些发现 inform了具有过程级评估、透明协调协议和结构化人类集成等含义的韧性机器人团队的设计。补充材料包括代码、任务代理设置、跟踪输出以及协调失效和推理行为的注释示例，均可在：https://byc-sophie.github.io/mas-to-mars/获取。