面向机器听觉的可靠局部解释
音频与语音处理
2020-05-19 v1 机器学习
声音
机器学习
摘要
分析机器学习模型行为的一种方法是使用局部解释，突出对模型预测影响最大的输入特征。敏感性分析通过研究输入扰动对模型预测的影响来生成局部解释，是此类方法之一。有意义的输入扰动对于生成可靠解释至关重要，但关于此类扰动是什么以及如何实施的研究十分有限。本工作在分析音频的机器听觉模型背景下探讨这些问题。具体而言，我们使用最先进的深度歌声检测（SVD）模型来分析 SoundLIME（一种局部解释方法）的解释是否对该方法扰动模型输入的方式敏感。结果表明，SoundLIME 解释对遮挡输入区域中的内容敏感。我们进一步提出并展示了一种定量识别合适内容类型以可靠遮挡机器听觉模型输入的新方法。针对 SVD 模型的结果表明，输入 mel 谱图 bin 的平均幅值是用于时间解释的最合适内容类型。
引用
@article{arxiv.2005.07788,
title = {Reliable Local Explanations for Machine Listening},
author = {Saumitra Mishra and Emmanouil Benetos and Bob L. Sturm and Simon Dixon},
journal= {arXiv preprint arXiv:2005.07788},
year = {2020}
}
备注
8 pages plus references. Accepted at the IJCNN 2020 Special Session on Explainable Computational/Artificial Intelligence. Camera-ready version