基于节点注入的图神经网络公平性攻击
机器学习
2024-10-31 v2
摘要
尽管图神经网络 (GNN) 在图相关任务中展现出惊人的能力，但近期研究揭示了 GNN 在面对恶意对抗攻击时存在公平性漏洞。然而，所有现有的公平性攻击都要求操作现有节点之间的连通性，这在现实中可能是被禁止的。为此，我们引入一种基于节点注入的公平性攻击 (NIFA)，探索 GNN 公平性在更真实场景下的漏洞。具体而言，NIFA 首先设计了两种洞见原则用于节点注入操作，即不确定性最大化原则和同质性增加原则，然后优化注入节点的特征矩阵，以进一步确保公平性攻击的有效性。针对三个真实数据集进行的全面实验一致表明，NIFA 可通过仅注入 1% 的节点就显著削弱主流 GNN 的公平性，包括面向公平性设计的 GNN。我们诚挚希望本工作能激发研究者对 GNN 公平性漏洞的关注，并鼓励开发相应的防御机制。我们的代码和数据已发布于：https://github.com/CGCL-codes/NIFA。
引用
@article{arxiv.2406.03052,
title = {Are Your Models Still Fair? Fairness Attacks on Graph Neural Networks via Node Injections},
author = {Zihan Luo and Hong Huang and Yongkang Zhou and Jiping Zhang and Nuo Chen and Hai Jin},
journal= {arXiv preprint arXiv:2406.03052},
year = {2024}
}
备注
Accepted by NeurIPS 2024