基于矩阵分解的黑箱分类模型人类可理解解释提取
人工智能
2017-09-20 v1 机器学习
机器学习
摘要
近年来，人们开发了诸多人工智能服务，例如用于客户服务的缺陷检测系统或诊断系统。遗憾的是，这些服务的核心是一个黑箱，人类无法理解其底层的决策逻辑，尽管在推出商业服务之前对该逻辑的审查至关重要。本文的目标是提出一种适用于一般分类模型的模型解释分析方法。为此，我们利用矩阵分解引入了贡献矩阵和约束空间中解释嵌入的概念。借助非负矩阵分解，我们从贡献矩阵中提取类似规则的解释。为了验证我们的方法，实验结果提供了开放数据集以及 LTE 网络诊断的工业数据集，结果表明我们的方法提取了合理的解释。
引用
@article{arxiv.1709.06201,
title = {Human Understandable Explanation Extraction for Black-box Classification Models Based on Matrix Factorization},
author = {Jaedeok Kim and Jingoo Seo},
journal= {arXiv preprint arXiv:1709.06201},
year = {2017}
}