大语言模型在人机交互中的Theory of Mind能力：一种幻觉？

大语言模型在各种自然语言和生成任务中展现出卓越的生成能力。然而，由于对大语言模型Theory of Mind能力的讨论推动了对人类机器交互中可能的拟人化和对失败案例的宽容度，人们开始关注大语言模型的Theory of Mind能力。虽然存在若干假信念测试来验证推理和维持另一个实体心理模型的能力，但我们研究了一个更高风险且可能不可逆后果的ToM应用：人机交互。在本工作中，我们探讨了感知行为识别任务，即机器人使用大语言模型（LLM）来评估机器人生成行为的感知方式，类似于人类观察者。我们关注四种行为类型，即显可解释、可理解、可预测和混淆行为，这些行为被广泛用于合成可解释机器人行为。LLM的目标是成为人类的代理，从而回答某种行为X会被人类观察者如何感知，例如“给定机器人的行为X，人类观察者会认为它是显可解释的吗？”。我们进行了人类主体研究，以验证用户在特定情境（机器人设置和计划）下，跨越五个领域，能够正确回答此类问题。第一次分析信念测试的结果极为积极，极大地提升了对LLM具备ToM能力的期望。我们随后提出并执行一系列扰动测试，这些测试打破了这种幻觉，即不一致信念、无信息上下文和确信测试。我们得出结论，尽管LLM在基础提示下的高分显示了其在HRI场景中的潜在应用，但拥有ToM需要对上下文中细微或无关扰动的不变性，而LLM缺乏这一点。