一种作为针对涌现对抗通信的测试时缓解的心智理论方法

多智能体系统（MAS）是对共享环境中多智能体交互的研究。用于协作的通信是在部分可观测环境中共享信息的基本构件。协作多智能体强化学习（CoMARL）是一种学习智能体策略的框架，或通过协作机制，或通过学习展现协作行为的策略。明确地说，已有关于从 CoMARL 智能体学习通信消息的工作；然而，当非协作智能体能够访问协作团队的通信信道时，已被证明会学习对抗通信消息，尤其在目标依赖于有限资源时破坏协作团队的性能。为解决此问题，我们提出一种技术，利用心智理论（ToM）的局部形式，在接受任何智能体的消息前区分所展现的协作行为与非协作行为。我们在集中训练、分散执行（CTDE）的 CoMARL 基准中通过实证评估展示了所提技术的有效性与可行性。此外，虽然我们提出显式的 ToM 防御用于测试时，我们强调 ToM 是用于设计认知防御的构件，而非防御的目标。