Magentic-UI：面向人类在回路中的智能体系统
人工智能
2025-07-31 v1 人机交互
摘要
由大型语言模型驱动的 AI 智能体正在变得越来越能够通过外部工具自主完成复杂的多步骤任务。然而，它们在包括计算机使用、软件开发和科研等大多数领域仍不足以达到人类水平的性能。其日益增长的自主性和与外部世界交互的能力，也引入了安全和安全风险，包括潜在的误差行动和对抗性操纵。我们认为，人类在回路中的智能体系统是一个前景明确的路径，旨在结合人类的监督和控制与 AI 的效率，以从不完美的系统中释放生产力。我们介绍了 Magentic-UI，这是一个用于开发和研究人类-智能体交互的开源 Web 界面。基于灵活的多智能体架构，Magentic-UI 支持网页浏览、代码执行和文件操作，并可通过 Model Context Protocol (MCP) 扩展多样化的工具。此外，Magentic-UI 提供了六种交互机制，以实现有效且低成本的人类参与：共计划、共任务、多任务、动作监护和长期记忆。我们在四个维度上评估了 Magentic-UI：智能体基准上的自主任务完成、其交互能力的仿真用户测试、真实用户的定性研究以及针对性的安全评估。我们的发现突显了 Magentic-UI 在推动安全高效的人类-智能体协作方面的潜力。
引用
@article{arxiv.2507.22358,
title = {Magentic-UI: Towards Human-in-the-loop Agentic Systems},
author = {Hussein Mozannar and Gagan Bansal and Cheng Tan and Adam Fourney and Victor Dibia and Jingya Chen and Jack Gerrits and Tyler Payne and Matheus Kunzler Maldaner and Madeleine Grunde-McLaughlin and Eric Zhu and Griffin Bassman and Jacob Alber and Peter Chang and Ricky Loynd and Friederike Niedtner and Ece Kamar and Maya Murad and Rafah Hosn and Saleema Amershi},
journal= {arXiv preprint arXiv:2507.22358},
year = {2025}
}