图智能体网络：赋予节点推理能力以增强对抗鲁棒性
机器学习
2024-12-12 v5 人工智能
密码学与安全
神经与进化计算
摘要
具有全局优化的端到端训练使图神经网络（GNNs）在节点分类中得以普及，却无意中引入了对抗边扰动攻击的漏洞。攻击者可以利用 GNNs 输入输出固有的开放接口，扰动关键边从而操纵分类结果。当前的防御方法由于持续使用基于全局优化的端到端训练方案，本质上封装了 GNNs 的漏洞。这具体体现在它们无法防御针对性的二次攻击。本文中，我们提出图智能体网络（GAgN）以解决上述 GNNs 的漏洞。GAgN 是一种图结构智能体网络，其中每个节点被设计为 1-跳视野智能体。通过智能体间的去中心化交互，它们可以学习推断全局感知以执行任务，包括推断给定节点的嵌入、度及邻居关系。这使得节点能够在进行分类任务时过滤对抗边。此外，智能体有限的视野阻止了恶意消息在 GAgN 中全局传播，从而抵御基于全局优化的二次攻击。我们证明，单隐藏层多层感知机（MLPs）在理论上足以实现这些功能。实验结果表明，GAgN 有效实现了其预期的所有能力，并且与最先进的防御方法相比，在受扰动的数据集上取得了最优的分类准确率。
引用
@article{arxiv.2306.06909,
title = {Graph Agent Network: Empowering Nodes with Inference Capabilities for Adversarial Resilience},
author = {Ao Liu and Wenshan Li and Tao Li and Beibei Li and Guangquan Xu and Pan Zhou and Wengang Ma and Hanyuan Huang},
journal= {arXiv preprint arXiv:2306.06909},
year = {2024}
}