为AI系统正确实现心智理论：四个误解的论述
人机交互
2025-03-24 v1 人工智能
摘要
人类与计算机系统之间寻求有效协作是人工智能面临的最大挑战之一。人类用来协调的一种更有效的机制是心智理论（ToM）。ToM可描述为'获取他人视角并对其信念、欲望和意图进行估计，以理解其行为和态度'。如果正确利用，这一技能在人机协作中非常有用。这引出了一个问题：在构建AI系统时，我们如何实现ToM？人类和AI系统的运作方式截然不同，ToM是一个多方面的概念，其每个方面都植根于认知科学和发展科学中的不同研究传统。我们注意到，来自人工智能和计算科学领域的研究者（包括我们自己）常常在ToM文献中感到困惑。本文我们识别了围绕ToM的四个常见误解，认为在开发AI系统时应予以考虑。我们对这些误解进行夸张论述，但在讨论中加入了细微差别。我们讨论的误解包括：（1）'人类使用心智理论模块，所以AI系统也应如此'；（2）'每次社交互动都需要（高级）心智理论'；（3）'所有心智理论都相同'；（4）'当前系统已经具备心智理论'。在讨论误解后，我们在每个章节结束时提供了关于如何克服误解的tentative指导方针。
引用
@article{arxiv.2503.16468,
title = {Towards properly implementing Theory of Mind in AI systems: An account of four misconceptions},
author = {Ramira van der Meulen and Rineke Verbrugge and Max van Duijn},
journal= {arXiv preprint arXiv:2503.16468},
year = {2025}
}
备注
19 pages, draft version