图神经网络预测的多目标解释
机器学习
2021-11-30 v1
摘要
图神经网络（GNN）已在多种高风险预测任务中取得最先进性能，但图结构上多层不规则聚合使GNN成为可解释性较差的模型。已有方法或使用更简单的子图模拟完整模型，或使用反事实识别预测成因。这两类方法旨在实现两个不同目标——“可模拟性”与“反事实相关性”，但尚不清楚这些目标如何共同影响人对解释的理解。我们设计了一项用户研究以探究此类联合效应，并依据发现设计了一种多目标优化（MOO）算法，以寻找在可模拟性与反事实性上均衡的帕累托最优解释。由于目标模型可为任意GNN变体且可能因隐私问题不可访问，我们设计了一种利用零阶信息、无需访问目标模型架构与参数的搜索算法。在来自四个应用的九个图上的定量实验表明，帕累托高效解释优于使用一阶连续优化或离散组合搜索的单目标基线。这些解释进一步在鲁棒性与敏感性上得到评估，以展现其在揭示可信成因同时对可能的混杂因素保持谨慎的能力。多样的支配性反事实可证明算法补救的可行性，从而潜在促进人类使用GNN参与决策时的算法公平。
引用
@article{arxiv.2111.14651,
title = {Multi-objective Explanations of GNN Predictions},
author = {Yifei Liu and Chao Chen and Yazheng Liu and Xi Zhang and Sihong Xie},
journal= {arXiv preprint arXiv:2111.14651},
year = {2021}
}
备注
Accepted to ICDM 2021