集体鲁棒性证书：利用图神经网络中的相互依赖性
机器学习
2023-02-07 v1 密码学与安全
摘要
在节点分类、图像分割和命名实体识别等任务中，我们有一个分类器，它基于单个输入（即分别为单个图、图像或文档）同时输出多个预测（一个标签向量）。现有的对抗鲁棒性证书独立地考虑每个预测，因此对于此类任务过于悲观。它们隐含地假设对手可以使用不同的扰动输入来攻击不同的预测，而忽略了我们拥有单个共享输入的事实。我们提出了首个集体鲁棒性证书，它计算在扰动下同时保证保持稳定的预测数量，即无法被攻击的数量。我们关注图神经网络并利用其局部性属性——扰动仅影响邻近邻域中的预测——将多个单节点证书融合为一个强得多的集体证书。例如，在 Citeseer 数据集上，我们用于节点分类的集体证书将可认证特征扰动的平均数量从 增加到了 。
引用
@article{arxiv.2302.02829,
title = {Collective Robustness Certificates: Exploiting Interdependence in Graph Neural Networks},
author = {Jan Schuchardt and Aleksandar Bojchevski and Johannes Gasteiger and Stephan Günnemann},
journal= {arXiv preprint arXiv:2302.02829},
year = {2023}
}
备注
Accepted at ICLR 2021 (https://openreview.net/forum?id=ULQdiUTHe3y). Uploaded to arxiv to fix Google Scholar indexing