用于可解释且可泛化图分类的因果注意力
机器学习
2022-06-14 v2 人工智能
摘要
在图分类中，基于注意力与池化的图神经网络（GNNs）盛行于从输入图中提取关键特征并支持预测。它们大多遵循“学习注意力”的范式，该范式最大化被关注图与真实标签之间的互信息。然而，这种范式使GNN分类器盲目吸收训练数据中输入特征与标签之间的所有统计相关性，而不区分特征的因果与非因果效应。被关注的图倾向于利用非因果特征作为预测的捷径，而非突出因果特征。此类捷径特征在训练分布之外可能轻易改变，从而导致GNN分类器泛化能力差。在本工作中，我们从因果视角审视图分类的GNN建模。根据我们的因果假设，捷径特征充当了因果特征与预测之间的混杂因子。它诱使分类器学习虚假相关性，从而在分布内（ID）测试评估中促进预测，却导致分布外（OOD）测试数据上的性能下降。为赋予分类器更好的可解释性与泛化能力，我们提出因果注意力学习（CAL）策略，该策略发现因果模式并减轻捷径的混杂效应。具体而言，我们采用注意力模块来估计输入图的因果特征与捷径特征。随后我们对因果理论的后门调整进行参数化——将每个因果特征与各种捷径特征相结合。这促进了因果估计与预测之间的稳定关系，而不受捷径部分与分布变化的影响。在合成与真实世界数据集上的大量实验证明了CAL的有效性。
引用
@article{arxiv.2112.15089,
title = {Causal Attention for Interpretable and Generalizable Graph Classification},
author = {Yongduo Sui and Xiang Wang and Jiancan Wu and Min Lin and Xiangnan He and Tat-Seng Chua},
journal= {arXiv preprint arXiv:2112.15089},
year = {2022}
}
备注
Accepted to KDD 2022