基于生成对抗网络图像到图像迁移的脑活动分类器反事实解释
神经元与认知
2021-10-29 v1 计算机视觉与模式识别
机器学习
摘要
深度神经网络(DNNs)能准确从脑激活中解码任务相关信息。然而，由于 DNN 的非线性，其决策难以解释。解释此类黑盒系统的一个有前景的方法是反事实解释。在该框架中，通过比较真实数据与专门生成的、使黑盒系统输出非真实结果的逼真合成数据来解释黑盒系统的行为。本文引入一种新颖的生成式 DNN(反事实激活生成器，CAG)，可为基于 DNN 的脑激活分类器提供反事实解释。重要的是，CAG 能同时处理与不同行为任务相关的多类图像间的变换。利用 CAG，我们展示了对学会区分七种行为任务脑激活的基于 DNN 分类器的反事实解释。此外，通过迭代应用 CAG，我们能够增强并提取影响分类器决策的细微空间脑活动模式。总之，这些结果表明基于图像到图像变换的反事实解释将是理解与拓展 DNN 在 fMRI 分析中当前应用的一个有前景的方法。
引用
@article{arxiv.2110.14927,
title = {Counterfactual Explanation of Brain Activity Classifiers using Image-to-Image Transfer by Generative Adversarial Network},
author = {Teppei Matsui and Masato Taki and Trung Quang Pham and Junichi Chikazoe and Koji Jimura},
journal= {arXiv preprint arXiv:2110.14927},
year = {2021}
}
备注
28 pages, 6 figures, 3 tables, 2 supplementary figures, 1 supplementary table