RelEx：一种模型无关的关模型解释器
机器学习
2020-06-02 v1 机器学习
摘要
近年来，在提升机器学习模型可解释性方面取得了显著进展。这是至关重要的，因为具有数百万参数的复杂深度学习模型产生了最先进的结果，但几乎不可能解释其预测。尽管各种可解释性技术已取得令人印象深刻的成果，但它们几乎都假设每个数据实例独立同分布（iid）。这排除了关系模型，如统计关系学习（SRL）和近期流行的图神经网络（GNNs），导致解释它们的选项很少。虽然确实存在一项解释GNN的工作GNN-Explainer，但它们假设可访问模型梯度以学习解释，这在跨不可微分关系模型的适用性和实用性方面具有局限性。本工作中，我们开发了RelEx，一种模型无关的关系解释器，仅通过访问黑盒的输出即可解释黑盒关系模型。RelEx能够解释任何关系模型，包括SRL模型和GNN。我们将RelEx与最先进的关系解释器GNN-Explainer以及iid解释模型的关系扩展进行比较，表明RelEx在保持模型无关的同时取得了相当或更好的性能。
引用
@article{arxiv.2006.00305,
title = {RelEx: A Model-Agnostic Relational Model Explainer},
author = {Yue Zhang and David Defazio and Arti Ramesh},
journal= {arXiv preprint arXiv:2006.00305},
year = {2020}
}