图神经网络中偏见的structural explanation研究
机器学习
2022-06-27 v1 计算机与社会
摘要
图神经网络（GNNs）在各种图分析问题中表现出令人满意的性能。因此，它们已成为多种决策场景中的事实上的解决方案。然而，GNNs可能对某些人口统计子群体产生偏见结果。一些近期工作已凭经验表明，输入网络的偏见结构是GNNs偏见的重要来源。尽管如此，尚无研究系统审视对于任一给定节点，输入网络的哪部分结构导致了偏见预测。关于输入网络结构如何影响GNN结果中偏见的低透明度，极大限制了GNNs在各种关键决策场景中的安全采用。本文研究GNNs中偏见的structural explanation这一新颖研究问题。具体而言，我们提出一种新颖的事后解释框架，以分别识别两个边集合：其能最大解释所呈现的偏见，以及能最大贡献于GNN对任一给定节点预测的公平水平。此类解释不仅提供对GNN预测偏见/公平性的全面理解，而且在构建有效且公平的GNN模型方面具有实际意义。在真实世界数据集上的大量实验验证了所提框架在提供GNN偏见有效structural explanation方面的有效性。开源代码见 https://github.com/yushundong/REFEREE。
引用
@article{arxiv.2206.12104,
title = {On Structural Explanation of Bias in Graph Neural Networks},
author = {Yushun Dong and Song Wang and Yu Wang and Tyler Derr and Jundong Li},
journal= {arXiv preprint arXiv:2206.12104},
year = {2022}
}
备注
Published as a conference paper at SIGKDD 2022