用于推断错误信念的人类团队概率建模
机器学习
2023-10-20 v1
摘要
我们开发了一种概率图模型（PGM），使人工智能（AI）智能体能够在 Minecraft 环境中由三名玩家执行的模拟城市搜索与救援（USAR）场景中推断人类信念。PGM 方法使可观测状态与动作显式化，也使基于玩家随时间所见所为证据而落脚的信念与意图显式化。该方法还支持推断干预的效果，若 AI 智能体要协助人类团队，此点至关重要。实验包含对玩家知识的操控，且基于 Minecraft 的虚拟测试平台可提供多路信息流，包括玩家视野中的物体。参与者配备一组标记块，可放置在房间入口附近，向队友示意房间内有无受害者。在每支团队中，其中一名成员所获得的标记图例与其他两名不同，这可能使其对房间状态产生误解；即，他们将持有一个错误信念。我们通过引入 ToMCAT（一个能推理个体与共享心理状态的 AI 智能体）拓展了该领域先前的工作。我们发现玩家的行为受其游戏内视野中所见、对标记含义的信念，以及关于团队决定采用何种含义的信念所影响。此外，我们表明 ToMCAT 的信念与玩家动作一致，且其推断错误信念的准确率显著优于随机水平，并与人类观察者的推断相当。
引用
@article{arxiv.2310.12929,
title = {Probabilistic Modeling of Human Teams to Infer False Beliefs},
author = {Paulo Soares and Adarsh Pyarelal and Kobus Barnard},
journal= {arXiv preprint arXiv:2310.12929},
year = {2023}
}
备注
8 pages, 7 figures, presented in the 2021 AAAI Fall Symposium