GPEX：一种解释人工神经网络的框架
机器学习
2024-01-12 v2 机器学习
摘要
高斯过程（GPs）与深度人工神经网络（ANNs）之间的类比受到大量关注，并展现出揭开深度 ANNs 黑箱的潜力。现有理论工作对 ANN 施加了严格假设（例如要求所有中间层都宽，或使用特定激活函数）。在近期深度架构中满足这些理论假设很困难，且随着新深度架构的出现，这些理论条件需要精炼。本文中，我们推导了一个证据下界，鼓励 GP 的后验匹配 ANN 的输出，且不对 ANN 作任何要求。使用我们的方法，我们在 5 个数据集上发现，仅需这些理论假设的一个子集便已足够。事实上，在我们的实验中，我们使用了普通的 ResNet-18 或带末端单个宽层的前馈骨干网络。训练 GP 的一个局限是随诱导点数量的可扩展性不足。我们使用新颖的计算技术，使得能用数十万诱导点并在 GPU 加速下训练 GP。如我们的实验所示，这样做对于在 5 个数据集上使 GP 与 ANN 紧密匹配至关重要。我们将方法实现为公开可用工具 GPEX：https://github.com/amirakbarnejad/gpex。在 5 个数据集（4 个图像数据集和 1 个生物数据集）以及具有两类功能（分类器或注意力机制）的 ANN 上，我们找到了输出与相应 ANN 紧密匹配的 GP。在将 GP 匹配到 ANN 后，我们使用 GP 的核函数解释 ANN 的决策。我们提供了超过 200 个解释（文中约 30 个，其余在补充材料中），这些解释高度可被人类理解，并展示了所获 GP 揭开 ANN 决策的能力。
引用
@article{arxiv.2112.09820,
title = {GPEX, A Framework For Interpreting Artificial Neural Networks},
author = {Amir Akbarnejad and Gilbert Bigras and Nilanjan Ray},
journal= {arXiv preprint arXiv:2112.09820},
year = {2024}
}