Grimm：用于防御针对图神经网络的中毒攻击的插拔式扰动整形器
机器学习
2025-02-14 v2
摘要
最近的研究揭示了图神经网络（GNN）在节点分类任务中对对抗性中毒攻击的脆弱性。当前的防御方法需要替换原始 GNN 为防御模型，无论原始模型的类型如何。这种方法虽然针对对抗鲁棒性，但会损害先前研究中开发的提升 GNN 实际性能的增强功能。我们在此引入 Grimm，即第一个插拔式防御模型。只需对提取任何图层特征的最小接口要求，Grimm 即可无缝整形扰动。具体而言，我们利用 GNN 通过历元演变产生的特征轨迹（FTs）来反映网络的训练状态。我们随后理论证明，受害节点的 FTs 必然会呈现可辨别的异常。因此，受到生物神经和免疫系统之间自然平行性的启发，我们构建 Grimm，一个针对 GNN 的综合性人工免疫系统。Grimm 不仅检测异常 FTs 并在训练期间纠正对抗边，还能高效并行运行，从而模拟其生物学对应物的并发功能。我们通过实验确认，Grimm 提供了四个经实验证实的优势：1）无害性，因其不会主动干扰 GNN 训练；2）并行性，确保监控、检测和纠正功能独立于 GNN 训练过程；3）通用性，证明与主流 GNN 如 GCN、GAT 和 GraphSAGE 兼容；4）可迁移性，因检测异常 FTs 的检测器可高效迁移到不同系统以实现一步纠正。
引用
@article{arxiv.2412.08555,
title = {Grimm: A Plug-and-Play Perturbation Rectifier for Graph Neural Networks Defending against Poisoning Attacks},
author = {Ao Liu and Wenshan Li and Beibei Li and Wengang Ma and Tao Li and Pan Zhou},
journal= {arXiv preprint arXiv:2412.08555},
year = {2025}
}
备注
19 pages, 13 figures