利用深度神经网络与对抗鲁棒性提升fMRI解码的可解释性
机器学习
2020-12-18 v3 计算机视觉与模式识别
神经元与认知
机器学习
摘要
深度神经网络（DNNs）正越来越多地用于从功能磁共振成像（fMRI）数据中进行预测。然而，它们被广泛视为不可解释的黑箱，因为很难发现DNN在此过程中使用了什么输入信息，而这在认知神经科学和临床应用中都很重要。显著性图是为预测产生输入特征相对重要性的可解释可视化的常用方法。然而，创建图的方法常因DNN对输入噪声敏感而失败，或过于关注输入而太少关注模型。由于真值并非总可用，评估显著性图与真正相关输入信息的对应程度也具有挑战性。在本文中，我们回顾了多种产生基于梯度的显著性图的方法，并提出了我们开发的一种新对抗训练方法，使DNN对输入噪声具有鲁棒性，旨在提升可解释性。我们引入了两种针对fMRI中显著性图方法的定量评估流程，适用于任何训练DNN或线性模型从成像数据中解码某些信息的情况。我们使用一个已知复杂激活结构的合成数据集，以及在Human Connectome Project（HCP）数据集中为任务解码的DNN和线性模型所产生的显著性图来评估这些流程。我们的关键发现是，不同方法产生的显著性图在可解释性上差异很大，无论在合成还是HCP fMRI数据中均如此。引人注目的是，即便DNN和线性模型解码性能相当，DNN显著性图在可解释性上的得分也高于线性模型显著性图（通过权重或梯度得出）。最后，用我们的对抗训练方法产生的显著性图优于其他方法。
引用
@article{arxiv.2004.11114,
title = {Improving the Interpretability of fMRI Decoding using Deep Neural Networks and Adversarial Robustness},
author = {Patrick McClure and Dustin Moraczewski and Ka Chun Lam and Adam Thomas and Francisco Pereira},
journal= {arXiv preprint arXiv:2004.11114},
year = {2020}
}