基于图结构与合作博弈论的高效深度学习模型解释：在 ASD 生物标志物发现中的应用

发现自闭症谱系障碍（ASD）的影像生物标志物对于帮助解释 ASD 以及预测或监测治疗结果至关重要。为此，最近深度学习的分类器已被用于从功能磁共振成像（fMRI）中识别 ASD，其准确率高于传统学习策略。然而，深度学习模型的一个关键挑战是理解网络究竟使用了哪些图像特征，这反过来可用于定义生物标志物。当前的方法通过考察如果“忽略”一个特征时预测如何变化来提取生物标志物，即重要特征。在这项工作中，我们超越仅观察单个特征，使用了来自合作博弈论的 Shapley 值解释（SVE）。合作博弈论在此具有优势，因为它直接考虑特征之间的交互，并且可应用于任何机器学习方法，从而成为一种从深度学习模型中确定实例级生物标志物重要性的新颖且更准确的方式。使用 SVE 的一个障碍是其计算复杂度：给定 $N$ 个特征时为 $2^N$。我们基于输入数据的底层图结构通过两种途径显式降低了 SVE 计算的复杂度：1）仅考虑每个特征的集中联盟；2）一个分层流程，首先将特征聚类为小社区，然后在每个社区中应用 SVE。蒙特卡洛近似可用于大型排列集。我们首先在 MNIST 数据集上验证我们的方法并与人类感知比较。接下来，为确保生物标志物结果的合理性，我们训练了一个随机森林（RF）从 fMRI 分类 ASD/对照受试者，并将 SVE 结果与标准基于 RF 的特征重要性进行比较。最后，我们展示了在 ASD/对照数据集上利用 SVE 对深度学习分类器进行 fMRI 生物标志物排序的初步结果。