图卷积网络上的邻接后门攻击
人工智能
2022-01-19 v1
摘要
后门攻击已被广泛研究以在正常模型中隐藏误分类规则，这些规则仅在模型识别到特定输入（即触发器）时被激活。然而，尽管它们在常规欧氏空间中取得成功，针对图结构数据的后门攻击研究甚少。本文提出一种图数据特有的新型后门，称为邻接后门。考虑到图数据的离散性，如何在保持模型对原始任务准确率的同时有效设计触发器是主要挑战。为应对该挑战，我们将触发器设为单个节点，当触发节点与目标节点相连时后门被激活。为保持模型准确率，不允许修改模型参数。因此，当触发节点未连接时，模型正常运行。在此设定下，本文着重生成触发节点的特征。提出两类后门：（1）线性图卷积后门，通过考察GCN的线性部分，为特征生成（可视为整数规划问题）寻找近似解。（2）现有图攻击的变体。我们将当前基于梯度的攻击方法扩展到我们的后门攻击场景。在两个社交网络和两个引文网络数据集上的大量实验表明，所有提出的后门均可达到近乎100%的攻击成功率，且对预测准确率无影响。
引用
@article{arxiv.2201.06202,
title = {Neighboring Backdoor Attacks on Graph Convolutional Network},
author = {Liang Chen and Qibiao Peng and Jintang Li and Yang Liu and Jiawei Chen and Yong Li and Zibin Zheng},
journal= {arXiv preprint arXiv:2201.06202},
year = {2022}
}
备注
12 pages