外部智能体意图预测器在人机协同中的效用研究
人机交互
2024-05-06 v1 多智能体系统
摘要
达成团队计划共识对于人机协同至关重要。尽管以往研究通过各种方式提供了沟通方法，但当人工智能没有可解释的计划进行沟通时，协调仍然可能很困难。为弥补这一不足，我们建议引入外部模型来帮助人类理解人工智能智能体的意图。本文提出了一种两阶段范式，首先从目标智能体收集的离线轨迹中训练一个心理理论（ToM）模型，并在人机协作过程中通过实时显示目标智能体的未来动作预测来利用该模型。这种范式将人工智能智能体视为黑盒，因此可用于改进任何智能体。为验证我们的范式，我们进一步实现了一个基于Transformer的预测器作为ToM模型，并开发了一个扩展的在线人机协作平台进行实验。综合实验结果表明，借助我们的模型，人机团队可以获得更好的性能。实验附带的一项用户评估进一步证明，我们的范式可以显著增强人类的情境意识。我们的研究展示了在人机协作中通过外部辅助增强人类能力的潜力，这可能进一步启发未来的研究。
引用
@article{arxiv.2405.02229,
title = {On the Utility of External Agent Intention Predictor for Human-AI Coordination},
author = {Chenxu Wang and Zilong Chen and Angelo Cangelosi and Huaping Liu},
journal= {arXiv preprint arXiv:2405.02229},
year = {2024}
}