中文

人类-智能体AI协作的愿景:连续性、张力与未来研究

人工智能 2026-03-06 v1 人机交互 综合经济学 经济学

摘要

人工智能正经历着结构性变革,智能体系统(agentic systems)能够实现开放的行动轨迹、生成性表征与输出,以及演化的目标。这些特性引入了人类-人工智能团队(Human-AI Teaming, HAT)中的结构不确定性,包括行为轨迹、认知依据以及支配逻辑随时间的稳定性。在此条件下,传统通过对有限输出达成一致来实现对齐的方式已不再适用;对齐必须在计划展开、优先级变化的过程中持续维持。我们发展了团队情境感知理论(Team Situation Awareness, Team SA),该理论基于共享感知、理解和投射,作为这一过渡的整合锚点。尽管Team SA在分析上具有基础意义,但其稳定逻辑预设了一旦实现共享意识,便可通过迭代更新来支持协调行动。智能体AI挑战了这一预设。我们的论证分为两个阶段:首先,我们将Team SA重新概念化,既涵盖人类意识也涵盖AI意识,包括跨异构系统投射一致性的意义建构;其次,我们检视传统假设在自适应自主性下,是否仍能发挥关系性互动、认知学习以及协调与控制中的动态过程所具有的稳定作用。通过区分连续性与张力,我们阐明了哪些基础洞见仍然成立,哪些结构不确定性引入了压力,并勾勒出面向HAT的前瞻性研究议程。HAT的核心挑战不在于人类与AI在当下能否达成一致,而在于他们能否在未来不断生成、修订、执行和治理的过程中保持对齐。

关键词

引用

@article{arxiv.2603.04746,
  title  = {Visioning Human-Agentic AI Teaming: Continuity, Tension, and Future Research},
  author = {Bowen Lou and Tian Lu and T. S. Raghu and Yingjie Zhang},
  journal= {arXiv preprint arXiv:2603.04746},
  year   = {2026}
}