ToP-ToM：具心智理论感知信任的机器人策略

心智理论（ToM）是一种基本的认知架构，赋予人类将心理状态归因他人的能力。人类通过观察他人行为推断其欲望、信念与意图，并相应调整自身行动以促进更好的人际沟通与团队协作。本文在多智能体设定中研究了具心智理论的信任感知机器人策略，其中人类与机器人协作对抗另一人类对手。我们表明，若仅关注团队表现，机器人可能诉诸反向心理策略，这对信任维护构成重大威胁。当人类发现机器人的欺骗行为时，其对机器人的信任将崩塌。为缓解此问题，我们采用机器人心智理论模型推断人类的信任信念，包括真实信念与错误信念（ToM 的关键要素）。我们基于不同信任信念设计了动态信任感知奖励函数以引导机器人策略学习，旨在避免由于机器人反向心理导致人类信任崩塌之间取得平衡。实验结果证明了基于 ToM 的机器人策略对于人机信任的重要性，以及我们的基于 ToM 的机器人策略在多智能体交互设定中的有效性。