对抗性组间连边注入损害图神经网络的公平性
机器学习
2023-02-07 v2 密码学与安全
计算机与社会
社会与信息网络
摘要
我们给出了针对图神经网络(GNNs)旨在损害公平性的对抗攻击的存在性与有效性的证据。这些攻击可使基于 GNN 的节点分类中特定节点子群处于不利地位，其中底层网络的节点具有敏感属性，如种族或性别。我们进行定性与实验分析，解释对抗性连边注入如何损害 GNN 预测的公平性。例如，攻击者可通过在属于相对子群与相对类标签的节点之间注入对抗性连边，损害基于 GNN 的节点分类的公平性。我们在经验数据集上的实验表明，对抗性公平性攻击能以低扰动率（攻击高效）且在准确率无显著下降（攻击具欺骗性）的情况下显著损害 GNN 预测的公平性（攻击有效）。本工作展示了 GNN 模型对对抗性公平性攻击的脆弱性。我们希望我们的发现能提高社区对此问题的认识，并为未来开发对此类攻击更鲁棒的 GNN 模型奠定基础。
引用
@article{arxiv.2209.05957,
title = {Adversarial Inter-Group Link Injection Degrades the Fairness of Graph Neural Networks},
author = {Hussain Hussain and Meng Cao and Sandipan Sikdar and Denis Helic and Elisabeth Lex and Markus Strohmaier and Roman Kern},
journal= {arXiv preprint arXiv:2209.05957},
year = {2023}
}
备注
A shorter version of this work has been accepted by IEEE ICDM 2022