通过训练节点归因解释图神经网络中的不公平性
机器学习
2022-11-29 v1 计算机与社会
摘要
图神经网络（GNNs）已成为各种真实应用中解决图分析问题的主导范式。然而，GNNs 可能对某些人口统计子群体产生偏见预测。理解预测中偏见的产生方式至关重要，因为它指导 GNN 去偏机制的设计。然而，大多数现有工作过度关注 GNN 去偏，却未能解释此种偏见如何被诱发。本文研究一个新问题：通过将 GNN 不公平性归因到训练节点的影响来解释它。具体而言，我们提出一种名为概率分布差异（PDD）的新策略来衡量 GNNs 中表现的偏见，并开发一种算法来高效估计每个训练节点对此偏见的影响。我们通过真实数据集上的实验验证了 PDD 的有效性与影响估计的有效性。最后，我们还展示了所提框架如何用于 GNNs 去偏。开源代码见 https://github.com/yushundong/BIND。
引用
@article{arxiv.2211.14383,
title = {Interpreting Unfairness in Graph Neural Networks via Training Node Attribution},
author = {Yushun Dong and Song Wang and Jing Ma and Ninghao Liu and Jundong Li},
journal= {arXiv preprint arXiv:2211.14383},
year = {2022}
}
备注
Published as a conference paper at AAAI 2023