基于高斯过程的消息过滤用于对抗通信下鲁棒多智能体协作
机器人学
2020-12-02 v1 人工智能
机器学习
多智能体系统
摘要
本文中，我们考虑为多智能体系统中的对抗通信提供鲁棒性的问题。具体地，我们提出了一种实现鲁棒协作的方案，使多智能体系统能够在存在传播错误、误导或操纵信息的匿名非协作智能体时保持高性能。为实现该目标，我们提出了一种基于图神经网络（GNNs）的通信架构，其适用于一种新颖的基于高斯过程（GP）的概率模型，该模型刻画了由于物理邻近与相对位置导致的不同智能体同时通信间的互信息。该模型允许智能体在本地计算近似后验概率（或置信度），即其任一通信伙伴诚实的可信程度。这些置信度可用作消息过滤方案中的权重，从而抑制可疑通信对接收智能体决策的影响。为评估方法有效性，我们引入了一种非协作智能体分类法，按其所掌握信息量区分它们。我们在两个不同实验中证明，我们的方法在该分类法下均表现良好，优于替代方法。除信息最充分的对手外，我们的过滤方法能够降低非协作智能体造成的影响，将其削弱至可忽略程度，且在无对手时性能损耗可忽略。
引用
@article{arxiv.2012.00508,
title = {Gaussian Process Based Message Filtering for Robust Multi-Agent Cooperation in the Presence of Adversarial Communication},
author = {Rupert Mitchell and Jan Blumenkamp and Amanda Prorok},
journal= {arXiv preprint arXiv:2012.00508},
year = {2020}
}