通过数据视图提取与影子模型构建实现黑盒机器学习模型的可解释性
人工智能
2020-02-06 v1 机器学习
机器学习
摘要
使用海量数据训练的深度学习模型往往捕获数据及其关联映射的一种视图。基于相同训练数据构建的不同深度学习模型，可能根据所采用的基础技术捕获数据的不同视图。为解释黑盒深度学习模型得出的决策，我们认为必须忠实地复现该模型对训练数据的视图。该忠实复现随后可用于生成解释。我们研究了两种数据视图提取方法：爬山法和 GAN 驱动的方法。然后我们利用该合成数据创建用于解释生成的影子模型：决策树模型和基于形式概念分析的模型。我们在公开数据集上训练的黑盒模型上评估了这些方法，并展示了其在解释生成中的有用性。
引用
@article{arxiv.2002.00372,
title = {Interpretability of Blackbox Machine Learning Models through Dataview Extraction and Shadow Model creation},
author = {Rupam Patir and Shubham Singhal and C. Anantaram and Vikram Goyal},
journal= {arXiv preprint arXiv:2002.00372},
year = {2020}
}
备注
13 pages, 3 figures, 7 tables