一种用于深度序列学习模型的灰盒可解释可视化调试方法
机器学习
2018-11-21 v1 人机交互
声音
音频与语音处理
摘要
深度学习算法常被用作黑盒式学习，其过于复杂而难以理解。深度学习算法广泛用于解决各类机器学习问题，这要求对其内部表示以及决策过程有深入且透明的理解。此外，在序列数据（如音频和视频数据）上训练的学习模型，由于特征分布复杂，具有错综内部的推理过程。因此，一个可视化模拟器可能有助于追踪针对对抗性输入数据的内部决策机制，并有助于调试和设计恰当的深度学习模型。然而，解释深度学习模型的内部推理在文献中尚未得到充分研究。本工作中，我们开发了一个可视化交互式Web应用，即d-DeVIS，其有助于可视化在音频数据上训练的学习模型的内部推理。所提出的系统允许通过交互式生成对抗性音频数据点来感知模型行为并调试模型。d-DeVIS的Web应用可在ddevis.herokuapp.com获取。
引用
@article{arxiv.1811.08374,
title = {A Gray Box Interpretable Visual Debugging Approach for Deep Sequence Learning Model},
author = {Md Mofijul Islam and Amar Debnath and Tahsin Al Sayeed and Jyotirmay Nag Setu and Md Mahmudur Rahman and Md Sadman Sakib and Md Abdur Razzaque and Md. Mosaddek Khan and Swakkhar Shatabda},
journal= {arXiv preprint arXiv:1811.08374},
year = {2018}
}