ProToM：基于 Theory of Mind 信息的促进利他行为
人工智能
2025-09-08 v1 多智能体系统
摘要
尽管人类本质上是社会性生物，但在追求独立目标时识别何时如何帮助和合作以提升合作，仍面临挑战。为此，我们旨在开发一种为 AI 系统提供有用反馈，以促进利他行为——即即使不直接符合自身目标也有利于他人的行动。我们引入 ProToM，一个受 Theory of Mind 信息化的促进器，通过为单个智能体提供有针对性、情境敏感的反馈来促进多智能体系统中的利他行为。ProToM 首先通过贝叶斯逆规划推断智能体的目标，然后选择通过最大化期望效用来选择要传递的反馈，前提是基于推断得到的目标分布。我们在两个多智能体环境中对该方法进行评估：Doors、Keys and Gems，以及 Overcooked。我们的结果表明，最新进展的大型语言和推理模型在传递既具情境依托又恰当时机的反馈方面不足——导致更高的通信开销和任务加速。相比之下，ProToM 提供了有针对性且有帮助的反馈，实现了更高的成功率、更短的任务完成时间，并且始终受到人类用户的一致偏好。
关键词
引用
@article{arxiv.2509.05091,
title = {ProToM: Promoting Prosocial Behaviour via Theory of Mind-Informed Feedback},
author = {Matteo Bortoletto and Yichao Zhou and Lance Ying and Tianmin Shu and Andreas Bulling},
journal= {arXiv preprint arXiv:2509.05091},
year = {2025}
}
备注
Website at https://www.matteobortoletto.org/protom/