基于 GAN 的神经网络解释生成与自动选择
机器学习
2019-07-02 v2 声音
音频与语音处理
机器学习
摘要
解释训练好的深度神经网络 (DNN) 的一种方法是检查模型中神经元响应的特征，例如通过迭代优化模型输入（如图像）以最大化激活特定神经元。然而，这需要仔细选择超参数以为每个感兴趣神经元生成可解释的示例，且当前方法依赖对每种设置的手动定性评估，速度极慢。我们引入一种使用 Fréchet Inception Distance (FID) 的新度量，以鼓励真实数据与生成数据的模型激活之间的相似性。这为评估每组超参数设置下生成的示例集提供了高效方法。我们还提出一种基于 GAN 的新方法来生成解释，其能高效搜索输入空间并施加偏向真实输出的强先验。我们将该方法应用于一个训练用于预测音乐音频录音是否含人声的分类模型。结果表明，所提度量能成功选择导致可解释示例的超参数，避免了手动评估的需要。此外，我们观察到为最大化或最小化人声存在预测概率而合成的示例分别展现出人声或非人声特征，表明我们的方法能够生成合适的解释以理解神经网络学到的概念。
引用
@article{arxiv.1904.09533,
title = {GAN-based Generation and Automatic Selection of Explanations for Neural Networks},
author = {Saumitra Mishra and Daniel Stoller and Emmanouil Benetos and Bob L. Sturm and Simon Dixon},
journal= {arXiv preprint arXiv:1904.09533},
year = {2019}
}
备注
8 pages plus references and appendix. Accepted at the ICLR 2019 Workshop "Safe Machine Learning: Specification, Robustness and Assurance". Camera-ready version. v2: Corrected page header